LFM3 е новото поколение модели на Liquid AI за специализиран AI
Hugging Face · вторник, 27 октомври, 19:16 · 1 мин четене
Един общ гръбнак за текст, зрение, звук и решения, с модели около 2 милиарда параметъра
Liquid AI представи LFM3, новото поколение от своите Liquid Foundation Models. Целта им е да бъдат отправна точка за специализиран AI. Всички модели стъпват на един общ гръбнак и са в диапазона около 2 милиарда параметъра. Това значи, че избираш модела според типа данни, с които работиш, можеш да го доучиш със своите данни на една видеокарта и да го пуснеш там, където работи приложението ти.
Спрямо предишното семейство LFM2 има четири основни промени. Архитектурата е прецизирана с търсене, което отчита реалното железо, от телефони и Raspberry Pi 5 до лаптопи, облачни процесори, видеокарти и NPU на Qualcomm. Резултатът личи при дълъг контекст. LFM3-1.7B на 8 хиляди токена в контекста е около 25% по-бърз, а контекстният прозорец стига до 256 хиляди токена.
Базовият модел LFM3-1.7B-Base е обучен върху 22 трилиона токена, а последният етап използва по-голям дял от примери за агенти и извиквания на инструменти. От този базов модел произлизат всички останалите. Сред тях са LFM3-VL-2B за зрение, който за първи път приема видео като вход и разсъждава стъпка по стъпка, и LFM3-Audio-2B за разговор с глас, разпознаване и синтез на реч на 18 езика.
LFM3-1.7B е подходящ за локални агенти, извикване на инструменти и структурирани отговори. Пуска се през библиотеката transformers. За визуалния модел трябва transformers версия 5.21.0 или по-нова и пакетите torch, torchvision и pillow. Пълните инструкции, включително за llama.cpp, са в картите на моделите на Hugging Face.


