Microsoft выпустила компактную модель ШИ Phi-3 Mini для смартфонов

Об этом пишет The Verge.

Phi-3 Mini имеет 3,8 миллиарда параметров (т.е. сколько сложных инструкций может понять модель) , что делает ее менее ресурсоемкой по сравнению с большими языковыми моделями, такими как GPT-4. Она доступна на Azure, Hugging Face и Ollama .

По словам вице-президента Microsoft Azure AI Эрика Бойда, Phi-3 Mini столь же мощна, как GPT-3.5, однако в меньшем форм-факторе. Microsoft планирует выпустить также Phi-3 Small (7 миллиардов параметров) и Phi-3 Medium (14 миллиардов параметров).

Phi-3 Mini хорошо справляется с разными задачами – от математики до программирования и академических тестов на простых устройствах, таких как смартфоны, и не требует подключения к интернету.

Бойд объясняет, что Phi-3 училась по специальной "учебной программе", следуя способу, которым дети учатся из детских книг. Для этого команда разработчиков создала более 3000 упрощенных обучающих текстов.

Издание отмечает, что по сравнению с большими аналогами малые модели AI часто дешевле в эксплуатации и работают лучше на персональных устройствах, таких как телефоны и ноутбуки.

Однако, хотя Phi-3 и владеет общими знаниями, он не может достичь уровня больших языковых моделей, натренированных по всему интернету.

Бойд говорит, что компании часто обнаруживают, что меньшие модели, такие как Phi-3, лучше работают для их пользовательских программ, поскольку для многих компаний их внутренние наборы данных все равно будут меньше. А поскольку эти модели потребляют меньше вычислительной мощности, они зачастую гораздо более доступны.

Кроме Phi, Microsoft также разрабатывает другие компактные модели AI, такие как Orca для математических задач. Конкуренты выпускают подобные небольшие модели для специализированных задач.

Корпорация Microsoft объявила, что их новый искусственный интеллект Copilot в скором времени будет интегрирован непосредственно в компьютеры пользователей и сможет работать не только через интернет. Это означает, что следующее поколение компьютеров может быть выпущено со встроенным искусственным интеллектом, но оно потребует особых процессоров для глубокого обучения, которые могут обрабатывать данные быстрее, чем любые существующие сейчас.

Источник фото: ua.depositphotos.com