Яндекс сообщил о новой языковой модели Alice AI Foundation LLM, которую компания обучила с нуля. В модели 80 млрд параметров, при генерации ответа активны 3 млрд. Для обучения использовали 18 трлн токенов.
Продлили до 30 сентября скидку 16% на любую профессию в Яндекс Практикуме. Забирайте сейчас — так выгодно больше не будет 🙂
Но главная часть новости — не размер модели. Яндекс опубликовал её настроенные параметры, чтобы разработчики могли самостоятельно запускать и дообучать модель. Лицензия допускает коммерческое и исследовательское использование.
Так у продуктовых и технических команд появляется новый сценарий работы с ИИ. Вместо того чтобы пользоваться только готовым сервисом и подстраивать процессы под его интерфейс, можно взять основу и адаптировать её под конкретную задачу: внутреннюю базу знаний, типовые документы, терминологию компании или сценарии поддержки.
Публикация параметров не означает, что модель легко запустить на любом рабочем ноутбуке или что она автоматически подойдёт каждой компании. Перед внедрением придётся проверить требования к инфраструктуре, качество ответов на своих задачах и условия использования данных.
Яндекс планирует сделать модель основой для будущей рассуждающей модели и агентных возможностей «Алисы AI». Пока это только направление развития: независимых сравнений качества, безопасности и стоимости работы модели компания не представила.
