«Яндекс» выложил в открытый доступ модель Alice AI Foundation, созданную без использования иностранных составляющих
В LLM заложены способности к рассуждению и работе в агентных сценариях. Alice AI Foundation обучена на 18 трлн токенов и работает на архитектуре MoE (Mixture of Experts), включающей 80 млрд параметров, из которых одномоментно активны 3 млрд.
Новая модель — это экспериментальная версия для тестирования архитектурных решений будущей единой рассуждающей модели (ЕРМ) «Яндекса» и агентных возможностей «Алисы AI».
Для оценки разработали бенчмарки WikiWebFacts и HardMultiQA. Первый состоит из пар «короткий вопрос — короткий ответ» и проверяет общие знания на основе онлайн-энциклопедий и частотных поисковых запросов. HardMultiQA построен на базе анонимизированного потока запросов к «Алисе AI» и охватывает более редкие области знаний.
При обучении модели разработчики улучшили функционал оптимизатора обучения, настроив параллельную с вычислениями пересылку данных между видеокартами. Кроме того, «Яндекс» оптимизировал подготовку обучающих данных. Перед оценкой документы проходили через каскад классификаторов, где на каждом этапе более сложная и вычислительно затратная модель работала с меньшим количеством документов.
👉🏻 AliceAI-Foundation-80B-A3B-Base на Hugging Face.
🔗 Источник: https://yandex.ru/company/news/21-09-2026-03
***
📎 В сентябре «Яндекс» выложил в открытый доступ базовую языковую модель Alice AI Search Pretrain.
В LLM заложены способности к рассуждению и работе в агентных сценариях. Alice AI Foundation обучена на 18 трлн токенов и работает на архитектуре MoE (Mixture of Experts), включающей 80 млрд параметров, из которых одномоментно активны 3 млрд.
Новая модель — это экспериментальная версия для тестирования архитектурных решений будущей единой рассуждающей модели (ЕРМ) «Яндекса» и агентных возможностей «Алисы AI».
Для оценки разработали бенчмарки WikiWebFacts и HardMultiQA. Первый состоит из пар «короткий вопрос — короткий ответ» и проверяет общие знания на основе онлайн-энциклопедий и частотных поисковых запросов. HardMultiQA построен на базе анонимизированного потока запросов к «Алисе AI» и охватывает более редкие области знаний.
При обучении модели разработчики улучшили функционал оптимизатора обучения, настроив параллельную с вычислениями пересылку данных между видеокартами. Кроме того, «Яндекс» оптимизировал подготовку обучающих данных. Перед оценкой документы проходили через каскад классификаторов, где на каждом этапе более сложная и вычислительно затратная модель работала с меньшим количеством документов.
👉🏻 AliceAI-Foundation-80B-A3B-Base на Hugging Face.
🔗 Источник: https://yandex.ru/company/news/21-09-2026-03
***
📎 В сентябре «Яндекс» выложил в открытый доступ базовую языковую модель Alice AI Search Pretrain.
🔥5🤔3👍2