Як зробити нейромережі більш подібними до людського розуму? Інтерв’ю із українським вченим, який створив свій стартап в США

Володимире, ти досліджуєш природу нейромереж. Але тим самим займаються і такі великі гравці як Google, Facebook та Open AI. Для чого заходити в галузь, де такі потужні конкуренти? Які шанси проти таких гравців?

– Колись кожен з цих гравців заходив на поле, на якому вже були інші, жодна з названих компаній не була першою. Більше того, треба розуміти, що ми знаходимося лише на світанку АІ, саме зараз час для проривних ідей, загального обʼєднання навколо наукового прогресу. І зараз в кожного, хто запропонує дійсно робочу ідею та підтвердить її життєздатність – шанс є.

Як вдається поєднувати викладацьку роботу в двох країнах та власний стартап? Опиши свій звичайний робочий день чи тиждень між цими трьома проектами? 

– Насправді, це дійсно не дуже просто. Все моє життя в мене завжди було більше, ніж одна робота або проект одночасно. І на початку це було важко – фокус втрачався, щось траплялося, пріоритети різко змінювалися, і всі роботи страждали. Проте, з часом я навчився на 100% віддаватися тій справі, що зараз в моєму фокусі. Так, ніби інших не існує. Це дозволяє робити все так, щоб потім не прийшлося переробляти. Потім перемикаєшся на іншу. І основою успіху тут є планування.

А щодо робочого дня чи тижня – не існує чіткого розкладу чи розпорядку, все постійно змінюється. Лекції в Україні відбуваються рано вранці один раз на тиждень, іноді і рідше. Моє педагогічне навантаження більше орієнтовано на роботу зі студентами як керівник дипломних робіт. Вже багато років поспіль я щорічно є керівником більше ніж дюжина студентів. Мій максимум – 16. І стартап в мене не один, є і інші, і вони всі побудовані з використанням ШІ. Що стосується викладання в університеті Джорджа Мейсона, то тут навпаки – заняття відбуваються пару разів на тиждень і ввечері, тож це дуже зручно.

А "секретом" встигання багато чого є делегування, але не просто делегування, а підбір у команду людей, яким не треба багато пояснювати, однодумців, пасіонаріїв, тоді твої колеги беруть на себе ініціативи, залишаючи тобі можливість бути візіонером, надихати. І я вдячний кожному, хто долучається до нашої команди, хто бере на себе відповідальність і додає синергії.

На якому етапі твій стартап? Ти вже знайшов seed investment в якомусь бізнес-інкубаторі? Яку ціль ставиш по залученню інвестицій? 

– Ми ще не шукали інвестицій активно. Загалом, від ідеї до перших підтверджень експериментами пройшло лише два місяці, і ми знаходимося на етапі перевірки решти з пари десятків гіпотез, які поки що підтверджуються одна за одною. Для того, або зробити прорив необхідно бути впевненим, що саме його і робиш. Хочемо бути чесними з інвесторами і в першу чергу – із собою. Оскільки цей стартап не є продуктовим, а по суті створює технологію, яка може вплинути на всі сфери і аспекти нашого життя, то до його оцінки складно підходити в форматі визначення ROI чи рахувати Unit Economy.

Це інший підхід, тож ми розраховуємо на інвестора, який розуміє специфіку та горизонти, які відкриваються з використанням нашої технології, яка по суті відтворює роботу мозку. Інвестиції в OpenAI в один мільярд – це не про продукт (відомий вже всім Chat GPT), це – візіонерська інвестиція, як і багато інших. І найбільшим інвестором є корпорація Майкрософт, засновник та СЕО якого є однозначно людиною із візією. Inflection AI залучили 225 мільйонів доларів первинних інвестицій від 27 інвесторів у 2022 році. Хоча, більшість початкових інвестицій знаходяться у проміжку від одного до двадцяти мільйонів доларів США.

Конвертація в бізнес-ідею

Володимире, сьогодні багато компаній займаються науковими дослідженнями у сфері ШІ. Це взагалі про бізнес? Які перспективи заробити на цьому і принести користь суспільству? 

– Так, компаній багато, і буде ще більше, ринок тільки формується, і попиту поки не так багато, але він є, і має тенденцію до зростання, за моїми оцінками - зростання вибухового у найближчі рік-два. Особливо на Заході, де бізнеси звикли адаптуватися трохи швидше, ніж в Україні. Щодо бізнес-компоненти, я особисто вважаю ШІ свого роду новою електрикою – не тому, що це масова технологія, а більше тому, що відкриття електрики колись дало поштовх до розвитку абсолютно нових напрямків, зокрема – мікроелектроніки, і як наслідок – комп'ютеризації всієї планети. А потім – Інтернет, і ось ми тут. Як кажуть на Заході, game changer. ШІ – це і є той самий game changer. І жоден не ставить питання "а вигідна енергетика?", «а вигідні постачальники електроенергії?». 

І, незважаючи на те, що сучасний ШІ – це ще не повністю інтелект, основні тренди вже можна помітити: саме з користі для суспільства ця технологія і почала свій шлях, інакше вона не стала б масовою. Погодься, про чати на основі великих мовних моделей знають усі, або принаймні – переважна більшість населення. Компанії, які займаються ШІ, отримують багатомільйонні і навіть мільярдні інвестиції. 

Це краще розповісти на прикладах, згадай кілька будь ласка.

- Так, наприклад, Safe Superintelligence, компанія одного з засновників OpenAI, яка анонсувала застосування ШІ в сфері кібербезпеки, нещодавно отримала інвестиції в розмірі 1 мільярда доларів. Anthropic, провідна компанія в галузі досліджень і безпеки штучного інтелекту, залучила 450 мільйонів доларів у рамках фінансування Серії C, очолюваного Spark Capital. OpenAI, відома своїми моделями ChatGPT, продовжила залучати значні суми, включаючи 300 мільйонів доларів від групи венчурних інвесторів, таких як Tiger Global і Sequoia Capital, раніше цього року. Mistral AI, французький стартап, що спеціалізується на створенні просунутих моделей з відкритими вагами, залучив більше ста мільйонів доларів лише на етапі seed-фінансування. Hugging Face, платформа для співпраці і обміну моделями штучного інтелекту, отримала 235 мільйонів доларів фінансування під керівництвом Salesforce, що свідчить про високу довіру до майбутнього зростання компанії, а отже і віру в її результати. І це не виключний перелік, це лише верхівка цього айсбергу.

Яка у тебе та твоєї команди мета у цій сфері? 

– Мені подобається ця сфера тим, що це чистий win-win, тут виграють всі учасники: творці, інвестори, і найголовніше – споживачі. У кінцевому підсумку ми всі виграємо від еволюції, хоча еволюція може і не сподобатися тим, хто не зможе адаптуватися. 

Ми, як R&D команда, займаємося нестандартними рішеннями для бізнесу, коли рішень "з коробки" не існує. Нещодавно завершили співпрацю з компанією, що розробляє віртуальні тренінги для правоохоронних органів Канади. Ми розробляли поведінкову компоненту неігрових персонажів. Наприклад, поліцейський у VR-окулярах занурюється в "ігрову" атмосферу та спілкується з NPC (персонаж неігровий), який має різні характеристики: наявність/відсутність документів, зброї, алкогольне/наркотичне сп'яніння. Усе це впливає на поведінку NPC, його репліки, агресивність і бажання дотримуватися закону тощо. Ми розробили генерацію реплік та поведінки NPC в залежності від вхідних параметрів. Це завжди цікаво, це завжди виклик, якого ми не боїмося.

Одна з компаній після співпраці з нами навіть запропонувала нам стати їхнім зовнішнім ШІ-департаментом. Я щиро пишаюся нашими хлопцями, які підтримують високі стандарти. У нас, до речі, переважно працюють люди з України. Не всі зараз в Україні, але переважна більшість. Ми вважаємо це необхідним, коли багато західних компаній навпаки – виходять з України. Ми в Accendum вважаємо своїм завданням під час війни Україні і до її закінчення максимально надавати українцям можливість заробляти своїми світлими головами, залучаючи фінанси із США та інших країн Заходу. А після перемоги – тим більше!

Зараз ми неймовірно мотивовані, оскільки буквально кілька місяців тому ми з командою розпочали розробляти свою концепцію нейромережі нового типу. І це якраз на фоні глобальних новин про те, що світова наукова спільнота також шукає відповіді на ті самі питання. До нашої ідеї ми прийшли спонтанно, у розмові з СТО я запропонував ідею нового формату нейромережі, яка могла б не просто навчатися, а "думати", вирішувати різні завдання для однієї й тієї ж структури мережі. Команда підхопила цю ідею, ми розвинули її і через два місяці отримали перші підтвердження гіпотези.

Що це за концепція? Це просто чергова мовна модель чи щось інше? 

– Це більше, ніж мовна модель. Мовні моделі – це просто один із інструментів. Наша концепція набагато глибша і складніша, і її основа – це спроба відтворити механізми мислення людини на базовому рівні. Ми хочемо створити ШІ, який зможе не просто виконувати завдання за заданими алгоритмами, а й адаптуватися до нових викликів, розв'язувати проблеми, з якими раніше не стикався, і приймати рішення на основі гнучкого й постійного навчання, акумулюючи знання і генеруючи нові.

Що унікального в цьому підході порівняно з тим, що ми бачимо зараз на ринку? 

- Зараз на ринку більшість ШІ-систем використовуються для обробки величезної кількості даних і виявлення патернів. Наш підхід полягає в тому, щоб навчити ШІ розуміти контекст і сенс завдань, адаптуватися до нових ситуацій, розуміти не лише те, що є зараз, а й передбачати те, що може статися в майбутньому. Тобто наш ШІ буде працювати не тільки з даними, але й з невизначеністю.

Ми також прагнемо створити систему, яка зможе самостійно генерувати нові знання. Це дуже амбітна мета, але вона має величезний потенціал для різних галузей – від медицини до економіки. Але перш за все, це може бути корисно в галузі прийняття рішень. Уяви собі системи, які можуть аналізувати мільярди факторів і запропонувати найкращі варіанти для будь-якої ситуації. Це може бути корисно як для управління бізнесом, так і для політичних або навіть побутових рішень. ШІ також може допомагати у створенні нових технологій і відкриттів. Замість того, щоб чекати на випадкові інновації, ми зможемо використовувати ШІ для прискорення наукових досліджень.

На жаль, я не можу розкривати деталі, навіть сама суть є чутливою інформацією і не підлягає розголошенню. Ми виокремлюємо це зараз в окремий напрямок, проект має назву Neuralines.

Кому з інвесторів це може бути цікаво?

– Насправді, ринку інвестицій у штучний інтелект поки що не існує в повній мірі. Наразі менш консервативні інвестори вкладають величезні гроші у все, що пов’язане зі штучним інтелектом. Нещодавно, наприклад, стартап одного із засновників OpenAI отримав інвестиції в розмірі одного мільярда доларів, так само, як і сам OpenAI. Більш консервативні інвестори надають перевагу вичікуванню певної стабілізації процесів та глибшому розумінню напрямку розвитку галузі. Звісно, ми не очікуємо інвестиції в мільярд доларів, але цей напрямок є максимально перспективним і нам вже є що показати.

На мою думку, у таких моментах інвесторам варто бути більш далекоглядними та включати в свої інвестиційні портфелі компанії, що працюють над глибинними дослідженнями в галузі штучного інтелекту. Якщо згадати, раніше приватне фінансування прогресивних досліджень було звичною практикою, і зараз саме той час, щоб повернутися до цього підходу. Перші ознаки цього ми бачимо. Так, з нещодавніх новин Університет Оксфорду відкрив лабораторію ШІ, де планує поєднати філософію і технологію, стимулюючи саме глибинні дослідження. Це дуже позитивний сигнал для ринку.

Чому ви зосереджені на нейронах — це ключове питання у розвитку ШІ? 

– Справа в тому, що один нейрон є по суті мікро-цеглинкою ШІ-всесвіту, все, що ви бачите навколо, побудоване на нейромережах різних видів, типів, архітектур. І від характеристик нейронів багато що залежить. Довгий час розвиток йшов більш-менш екстенсивно, не було проблем із розширенням нейромережі за рахунок додавання більшої кількості нейронів або групування кількох нейромереж у певні надструктури. Зараз, коли ми починаємо поступово стикатися із обмеженнями обчислювальних можливостей, все частіше виникають питання оптимізації як процесів навчання моделей, так і процесів забування при донавчанні.

Чому нейрони втрачають прогрес і чому так складно навчити їх розвиватися в знаннях, як людина, накопичуючи інформацію, а не втрачаючи її?

– Ми як людство до сих пір не повністю розуміємо, як функціонує людський мозок, який є аналогом нейронної мережі. У мозку, крім електричних сигналів, що передаються від нейрона до нейрона через синапси, відбуваються також біохімічні процеси, над природою і властивостями яких працюють найкращі уми в цій сфері. Власне, процеси навчання і забування — це те, що в значній мірі визначає роботу мозку.

Що таке нейрони?

– Відповідь на це питання не така проста, але спробую пояснити. Нейрон — це обчислювальний вузол, який приймає кілька входів, виконує математичні операції над значеннями з цих входів, застосовує функцію активації і видає результат, передаючи його іншим нейронам. Коли значення на виході порівнюється з очікуваним значенням, обчислюється помилка, і на основі цієї помилки починається процес коригування значень нейронів у зворотному напрямку від виходу. Це називається зворотне поширення помилки (backpropagation).

Коли мережа навчена, вона зберігає значення нейронів. Але якщо ми хочемо додатково навчити мережу на нових прикладах, можемо зіткнутися з проблемою коригування ваг нейронів так, що ці зміни вплинуть на розпізнавання найраніших прикладів.

Це вже звучить як щось космічне …

- Поясню простіше. Уявіть, що ви дитина і тільки вивчаєте таблицю множення. Ви навчилися множенню на 2, потім на 3, потім на 4. І деякий час ви відпочиваєте та перевіряєте себе — все добре, ви все пам'ятаєте. Але коли ви вирішили перейти до множення на 5, ви починаєте помічати, що множення на 3 згадується вже гірше. Щось подібне може відбуватися і з нейронними мережами. Це лише один із прикладів того, чому ШІ може забувати або перестати "розуміти", що від нього хочуть.

Що конкретно дасть на практиці ваше дослідження у навчанні нейронів? Кому буде від цього користь і що вам як бізнесу це дасть?

– Наші дослідження можуть суттєво оптимізувати процеси навчання нейромереж і формування мультизадачних моделей. Основний прорив полягає у створенні підходу до навчання, який буде більше схожий на те, як навчається людина. Якщо нам вдасться досягти успіху, це призведе до більш природного і гнучкого процесу навчання та запам’ятовування для ШІ, що дозволить йому адаптуватися до нових завдань і знань, не втрачаючи старих.

Такий прорив принесе користь багатьом сферам: від освіти і медицини до бізнесу і кібербезпеки. Більш ефективні та адаптивні ШІ-моделі зможуть краще справлятися із завданнями, що вимагають комплексного підходу, а також забезпечувати більш точні та релевантні результати. Для бізнесу це відкриє нові можливості в розробці продуктів і послуг, підвищуючи їх конкурентоспроможність.

Якщо нам вдасться досягти прориву, це може призвести до створення більш загального штучного інтелекту (AGI), що є довгоочікуваною метою в сфері ШІ. На відміну від нинішніх ШІ-систем, які є хоч і надскладними але здебільшого калькуляторами, AGI буде здатний до більш глибокого розуміння і розмірковування, що буде схоже на людський інтелект.

Які ТОП-3 наукові прориви ти б назвав і яке місце відводиш вашій сфері досліджень? 

– В ТОП3 я б виділив генеративні мережі, прориви в області квантових обчислень, ну і загалом розвиток біоінформатики і персоналізованої медицини. 

Генеративні мережі кардинально змінили ландшафт науки і бізнесу, а також призвели до нових загроз, спрощуючи соціальну інженерію і автоматизуючи багато процесів. Певно, саме тому Safe Superintelligence Іллі Суцкевера нещодавно залучила $1 млрд для створення рішень у сфері кібербезпеки. Ну, і що важливо, генеративні мережі привернули багато уваги соціуму, саме тому це номер один. Але мій улюблений напрямок – це саме прориви в області квантових обчислень. Ці технології обіцяють революціонізувати обробку даних і розв'язання складних завдань, які неможливо вирішити за допомогою традиційних обчислювальних методів. Але разом з тим змінюють правила гри у захисті інформації. Ну, і можуть значно підсилити власне сферу ШІ. Ну, і біоінформатика як доволі молода наука робить суттєвий прогрес останнім часом, до речі використовуючи і методи ШІ. Нові методи аналізу геномних даних дозволяють розробляти більш ефективні та персоналізовані підходи до лікування захворювань.

Як ти ставишся до хайпу навколо ринку ШІ і розмов про його перегрітість?

– Я би сказав, що ринок не "вже перегрітий", а «ще перегрітий», тобто пропозиція зростає з кожним днем, а стабільного попиту поки що немає. Бізнес ще не повністю розуміє, що таке ШІ і як це працює. Багато хто взагалі вважає, що рішення на основі штучного інтелекту їм не потрібні, адже «ми далеко від усіх цих ваших інтелектів, наш бізнес простий і приземлений».

Так само бізнеси думали в епоху становлення Інтернету, вважаючи, що веб-сайти – це щось модне і зовсім необов'язкове. А потім Білл Гейтс сказав фразу "If your business is not on the Internet, you don't have a business", яку можна перефразувати як «якщо у вашого бізнесу немає веб-сайту, то у вас немає бізнесу». І знадобилися роки, щоб бізнес це зрозумів. Звісно, це змінило ландшафт – на поверхню виринули ті бізнеси, які першими це зрозуміли. Тож ринок ШІ також сформується з часом, і тоді ми ще раз поговоримо про це.

Яким ти бачиш практичне застосування та прогрес ШІ через 5 років? Як виглядатиме світ, і якого прогресу в вашій сфері досліджень можна очікувати, згідно з твоїм відчуттям і прогнозом?

– Коли я був ще школярем і захоплювався науковою фантастикою, я уявляв собі наше майбутнє в 2030 році таким, яким його малювали люди з дивовижною уявою – Айзек Азімов, Рей Бредбері, Артур Кларк, Роберт Шеклі, Кліффорд Саймак, Роберт Хайнлайн та інші. Зараз, чим ближче ми до 2030 року, я розумію, що в 2030 році ми не побачимо летючих машин, як масового явища, і великого ШІ, який управляє процвітаючою планетою. Але найважливіше, що може статися – вже сталося. Людство раз і назавжди пустило ШІ з замкнених лабораторій у свої затишні домівки. ШІ стане ще ближчим, зрозумілішим і зручнішим. Його стане більше у всіх сферах. І так, це ймовірно призведе до значних економічних перезавантажень і можливих локальних криз. На мою думку, цей процес невідворотний, адже він еволюційний, а опиратися еволюції – справа марна.

Єдине, що можна наразі сказати точно, це те, що через 5 років ШІ стане ще більше інтегрованим у різні аспекти нашого життя. Це може включати активне використання ШІ в медицині для персоналізованих рішень, точнішого діагностування та прогнозування захворювань, може навіть з використанням ШІ буде винайдено ліки від невиліковних раніше хвороб. Точно буде автоматизовано багато бізнес-процесів. Хочеться вірити, що будуть створені системи персоналізованого навчання, де ШІ адаптує матеріали враховуючи потреби студентів. В мене з навчанням теж окрема історія, як викладач кафедри інформаційної безпеки НН ФТІ КПІ ім. І. Сікорського (фізтех) я завжди виступав за більш інтерактивне та навіть імерсійне навчання, а також за використання найбільш передових технологій. І наші студенти вже з перших курсів розбираються в основах ШІ, застосовуючи його в тому числі до процесів навчання. Це надихає!

А у нашій сфері досліджень прогрес може дозволити моделям краще адаптуватися до нових даних, зберігаючи старі знання, побудувати дійсно мультизадачні моделі, здатних інтегрувати інформацію з різних джерел і створювати складніші рішення, а ще й можливо навчатися взагалі без вчителя, формуючи висновки та генеруючи нові знання. Глибше розуміння імітації людського інтелекту наблизить нас до створення загального штучного інтелекту, здатного до глибшого розуміння контексту. Загалом, прогрес в ШІ буде залежати від інтеграції нових технологій у практичні рішення, які змінять наше життя і бізнес-процеси. Майбутнє обіцяє бути цікавим, це точно!