Mistral представила ИИ-модель Pixtral 12B, которая превосходит Qwen2 7B, LLaVA-OV 7B и Phi-3 Vision
Эти слайды с закрытой конференции Mistral, на которой присутствовал Дженсен Хуанг (CEO NVIDIA).
Ключевые особенности:
1. Мультимодальная архитектура: используется передовой мультимодальный трансформер-декодер, способный эффективно обрабатывать как текст, так и изображения.
2. Расширенные возможности:
- Контекстное окно в 128k токенов
- Обработка больших документов с чередующимся текстом и изображениями
3. Модель распространяется под лицензией Apache 2.0.
Производительность
Pixtral 12B демонстрирует впечатляющие результаты в различных бенчмарках:
- Превосходит многие открытые модели в задачах MMMU, MathVista, ChartQA и DocVQA.
- Показывает высокие результаты в задачах, требующих точного выполнения инструкций.
- Демонстрирует сильные показатели в различных текстовых задачах.
Сравнение с конкурентами
В большинстве тестов Pixtral 12B превосходит такие модели, как Qwen2 7B, LLaVA-OV 7B и Phi-3 Vision, особенно в мультимодальных задачах и задачах следования инструкциям.
Эти слайды с закрытой конференции Mistral, на которой присутствовал Дженсен Хуанг (CEO NVIDIA).
Ключевые особенности:
1. Мультимодальная архитектура: используется передовой мультимодальный трансформер-декодер, способный эффективно обрабатывать как текст, так и изображения.
2. Расширенные возможности:
- Контекстное окно в 128k токенов
- Обработка больших документов с чередующимся текстом и изображениями
3. Модель распространяется под лицензией Apache 2.0.
Производительность
Pixtral 12B демонстрирует впечатляющие результаты в различных бенчмарках:
- Превосходит многие открытые модели в задачах MMMU, MathVista, ChartQA и DocVQA.
- Показывает высокие результаты в задачах, требующих точного выполнения инструкций.
- Демонстрирует сильные показатели в различных текстовых задачах.
Сравнение с конкурентами
В большинстве тестов Pixtral 12B превосходит такие модели, как Qwen2 7B, LLaVA-OV 7B и Phi-3 Vision, особенно в мультимодальных задачах и задачах следования инструкциям.