Компания Meta анонсировала запуск Llama 4 — семейства ИИ-моделей, включающего Scout, Maverick и Behemoth. Среди ключевых фишек: мультимодальность, улучшенный reasoning и контекстное окно на 10 млн токенов — в 80 раз больше, чем у Llama 3.
Meta подчёркивает: «Scout и Maverick — это первые мультимодальные модели с открытым кодом и рекордной длиной контекста. Они построены на архитектуре MoE (смешанные эксперты). Behemoth же — один из самых продвинутых LLM в мире, который станет наставником для будущих моделей».
- Llama 4 Scout: 17 млрд активных и 109 млрд общих параметров, 16 экспертов. Отлично справляется с задачами reasoning, программирования, анализа длинных текстов и обработки изображений. Превосходит Gemma 3, Gemini 2.0 Flash-Lite и Mistral 3.1.
- Llama 4 Maverick: 17 млрд активных и 400 млрд общих параметров, 128 экспертов. Лидер в reasoning, кодинге и мультимодальности, обходит GPT-4o, Gemini 2.0 Flash и DeepSeek v3.1.
- Llama 4 Behemoth (в разработке): 288 млрд активных и около 2 трлн общих параметров, 16 экспертов. Используется как «учитель» и опережает GPT-4.5, Claude Sonnet 3.7 и Gemini 2.0 Pro в STEM-тестах.
Scout и Maverick уже можно скачать на llama.com и Hugging Face. Они интегрированы в WhatsApp, Messenger, Instagram DM и сайт Meta.AI.
