Microsoft випустила компактну модель ШІ Phi-3 Mini для смартфонів

Як забезпечити розвиток і стійкість компаній: досвід TERWIN, NOVUS, Arcelor Mittal, СК ІНГО та 40 інших провідних топменеджерів та державних діячів.

11 квітня на Business Wisdom Summit дізнайтесь, як бізнесу адаптуватися до нових регуляторних вимог, реагувати на зміни та залучати інвестиції у нинішніх умовах. Реальні кейси від лідерів українського бізнесу.

Забронювати участь

Про це пише The Verge.

Phi-3 Mini має 3,8 мільярда параметрів (тобто, скільки складних інструкцій може зрозуміти модель), що робить її менш ресурсномісткою порівняно з великими мовними моделями, такими як GPT-4. Вона доступна на Azure, Hugging Face та Ollama.

За словами віце-президента Microsoft Azure AI Еріка Бойда, Phi-3 Mini є настільки ж потужною, як GPT-3.5, проте у меншому форм-факторі. Microsoft планує випустити також Phi-3 Small (7 млрд параметрів) і Phi-3 Medium (14 млрд параметрів).

Phi-3 Mini добре справляється з різними завданнями — від математики до програмування та академічних тестів на простих пристроях, таких як смартфони, і не потребує підключення до інтернету. 

Бойд пояснює, що Phi-3 навчалася за спеціальною "навчальною програмою", наслідуючи спосіб, яким діти вчаться з дитячих книжок. Для цього команда розробників створила понад 3000 спрощених навчальних текстів.

Видання зазначає, що порівняно з більшими аналогами, малі моделі AI часто дешевші в експлуатації та працюють краще на персональних пристроях, таких як телефони та ноутбуки. 

Проте, хоча Phi-3 і володіє загальними знаннями, він не може досягти рівня великих мовних моделей, натренованих на всьому інтернеті. 

Бойд каже, що компанії часто виявляють, що менші моделі, такі як Phi-3, краще працюють для їхніх користувальницьких програм, оскільки для багатьох компаній їхні внутрішні набори даних все одно будуть меншими. А оскільки ці моделі споживають менше обчислювальної потужності, вони часто набагато доступніші. 

Окрім Phi, Microsoft також розробляє інші компактні моделі AI, як-от Orca для математичних задач. Конкуренти також випускають подібні невеликі моделі для спеціалізованих завдань.

Додамо, що корпорація Microsoft оголосила, що їх новий штучний інтелект Copilot незабаром буде інтегрований безпосередньо в комп'ютери користувачів і зможе працювати не лише через інтернет.  Це означає, що наступне покоління комп'ютерів може бути випущене з вбудованим штучним інтелектом, але воно потребуватиме особливих процесорів для глибокого навчання, які можуть обробляти дані швидше, ніж будь-які наявні зараз.

Джерело фото: ua.depositphotos.com