Apollo: новый уровень в обработке длинных видео 🎥
Meta продолжает радовать нас перед Новым Годом🌲
Metа сделала мощный шаг в области ИИ, представив семейство видео-моделей Apollo, способных анализировать видео продолжительностью до 60 минут.
Почему это прорыв: • Компактные размеры: модели с 1.5, 3 и 7 млрд параметров демонстрируют рекордные результаты. • Революционная оптимизация: благодаря открытию “масштабируемой согласованности” малые архитектурные решения эффективно работают и в больших моделях.
Ключевые технологии Apollo: • Равномерная обработка частоты кадров. • Включение до 14% текстовых данных в обучающий набор. • Технология Perceiver Resampler для компрессии данных. • Многоэтапное обучение и разморозка компонентов модели.
Модель Apollo — это пример того, как умный подход к архитектуре и оптимизации может дать результат лучше, чем простое наращивание параметров.
* Meta признаны экстремистской организацией