Как сделать нейросети более похожими на человеческий разум? Интервью с украинским ученым, создавшим свой стартап в США

Владимир, ты исследуешь природу нейросетей. Но тем самым занимаются и такие крупные игроки, как Google, Facebook и Open AI. Зачем заходить в отрасль, где такие мощные конкуренты? Какие шансы против таких игроков?

– Когда каждый из этих игроков заходил на поле, на котором уже были другие, ни одна из названных компаний не была первой. Более того, нужно понимать, что мы находимся только на рассвете ИИ, как раз сейчас время для прорывных идей, общего объединения вокруг научного прогресса. И сейчас у каждого, кто предложит действительно рабочую идею и подтвердит ее жизнеспособность – шанс есть.

Как удается совмещать преподавательскую работу в двух странах и собственный стартап? Опиши свой обычный рабочий день или неделю между этими тремя проектами?

– Это действительно не очень просто. Всю мою жизнь у меня всегда было больше, чем одна работа или проект одновременно. Поначалу это было тяжело – фокус терялся, что-то случалось, приоритеты резко менялись и все работы страдали. Однако со временем я научился на 100% отдаваться тому делу, которое сейчас находится в моем фокусе. Так, будто других не существует. Это позволяет делать все так, чтобы потом не пришлось переделывать. Потом переключаешься на другую задачу. Основа успеха здесь - планирование.

А насчет рабочего дня или недели – нет четкого расписания или распорядка, все постоянно меняется. Лекции в Украине проходят рано утром один раз в неделю, иногда реже. Моя педагогическая нагрузка больше ориентирована на работу со студентами в качестве руководителя дипломных работ. Уже много лет подряд я ежегодно являюсь руководителем более дюжины студентов. Мой максимум – 16. И стартап у меня не один, есть и другие, и все они построены с использованием ИИ. Что касается преподавания в университете Джорджа Мейсона, то здесь наоборот – занятия проходят пару раз в неделю по вечерам, так что это очень удобно.

"Секретом" успевать многое является делегирование, но не просто делегирование, а подбор в команду людей, которым не нужно многое объяснять, единомышленников, пассионариев, тогда твои коллеги берут на себя инициативу, оставляя тебе возможность быть визионером, вдохновлять. Я благодарен каждому, кто присоединяется к нашей команде, кто берет на себя ответственность и добавляет синергию.

На каком этапе твой стартап? Ты уже нашел seed investment в каком-нибудь бизнес-инкубаторе? Какую цель ставишь по привлечению инвестиций?

– Мы еще не искали инвестиции активно. В общем, от идеи до первых подтверждений экспериментами прошло всего два месяца, мы находимся на этапе проверки остальных пары десятков гипотез, которые пока подтверждаются одна за другой. Для того, чтобы сделать прорыв, необходимо быть уверенным, что именно его и делаешь. Хотим быть честными с инвесторами и в первую очередь – с собой. Поскольку этот стартап не является продуктовым, а по сути создает технологию, которая может повлиять на все сферы и аспекты нашей жизни, к оценке сложно подходить в формате определения ROI или считать Unit Economy.

Это другой подход, поэтому мы рассчитываем на инвестора, понимающего специфику и горизонты, которые открываются с использованием нашей технологии, по сути воспроизводящей работу мозга. Инвестиции в OpenAI в один миллиард – это не о продукте (известный уже всем Chat GPT), это – визионерская инвестиция, как и многие другие. Крупнейшим инвестором является корпорация Майкрософт, основатель и СЕО которого однозначно человек с визией. Inflection AI привлекли 225 миллионов долларов первоначальных инвестиций от 27 инвесторов в 2022 году. Хотя большинство начальных инвестиций находятся в промежутке от одного до двадцати миллионов долларов США.

Конвертация в бизнес-идею

Владимир, сегодня многие компании занимаются научными исследованиями в сфере ИИ. Это вообще о бизнесе? Какие перспективы заработать на этом и принести пользу обществу?

– Компаний много, и будет еще больше, рынок только формируется, и спроса пока не так много, но он есть и имеет тенденцию к росту, по моим оценкам – рост взрывного в ближайшие год-два. Особенно на Западе, где бизнесы привыкли адаптироваться быстрее, чем в Украине. Что касается бизнес-компоненты, я лично считаю ИИ своего рода новым электричеством – не потому, что это массовая технология, а больше потому, что открытие электричества когда-то дало толчок к развитию совершенно новых направлений, в частности – микроэлектроники, и как следствие – компьютеризации всей планеты. А потом – Интернет, и вот мы здесь. Как говорят на Западе, game changer. ИИ – это и есть game changer. И ни один не задает вопрос "выгодная ли энергетика?", " выгодны ли поставщики электроэнергии?".

Несмотря на то, что современный ИИ – это еще не полностью интеллект, основные тренды уже можно заметить: именно из пользы для общества эта технология и начала свой путь, иначе она не стала бы массовой. Согласись, о чатах на основе больших языковых моделей знают все, или по крайней мере – подавляющее большинство населения. Компании, занимающиеся ИИ, получают многомиллионные и даже миллиардные инвестиции.

Это лучше рассказать на примерах, вспомни несколько, пожалуйста.

- Например, Safe Superintelligence, компания одного из основателей OpenAI, анонсировавшая применение ИИ в сфере кибербезопасности, недавно получила инвестиции в размере 1 миллиарда долларов. Anthropic, ведущая компания в области исследований и безопасности искусственного интеллекта, привлекла 450 миллионов долларов в рамках финансирования Серии C, возглавляемого Spark Capital. OpenAI, известная своими моделями ChatGPT, продолжила привлекать значительные суммы, включая 300 миллионов долларов от группы венчурных инвесторов, таких как Tiger Global и Sequoia Capital, ранее в этом году. Mistral AI, французский стартап, специализирующийся на создании продвинутых моделей с открытыми весами, привлек более ста миллионов долларов только на этапе seed-финансирования. Hugging Face, платформа для сотрудничества и обмена моделями искусственного интеллекта, получила 235 миллионов долларов финансирования под руководством Salesforce, что свидетельствует о высоком доверии к будущему росту компании, а следовательно и вере в ее результаты. Это не весь список, это только верхушка айсберга.

Какая у тебя и твоей команды цель в этой сфере?

- Мне нравится эта сфера тем, что это чистый win-win, здесь выиграют все участники: создатели, инвесторы, и самое главное – потребители. В конечном счете мы все выигрываем от эволюции, хотя эволюция может и не понравиться тем, кто не сможет адаптироваться.

Мы, как R&D команда, занимаемся нестандартными решениями для бизнеса, когда решений из коробки не существует. Недавно завершили сотрудничество с компанией, разрабатывающей виртуальные тренинги для правоохранительных органов Канады. Мы разрабатывали поведенческую компоненту неигровых персонажей. Например, полицейский в VR-очках погружается в "игровую" атмосферу и общается с NPC (персонаж неигровой), который имеет разные характеристики: наличие/отсутствие документов, оружия, алкогольное/наркотическое опьянение. Все это влияет на поведение NPC, его реплики, агрессивность и желание соблюдать закон. Мы разработали генерацию реплик и поведения NPC в зависимости от входных параметров. Это всегда интересно, это всегда вызов, которого мы не боимся.

Одна из компаний после сотрудничества с нами даже предложила нам стать их внешним ИИ-департаментом. Я искренне горжусь нашими ребятами, поддерживающими высокие стандарты. У нас, кстати, в основном работают люди из Украины. Не все сейчас в Украине, но большинство. Мы считаем это необходимым, когда многие западные компании наоборот – выходят из Украины. Мы в Accendum считаем своей задачей во время войны Украине и до ее окончания максимально давать украинцам возможность зарабатывать своими светлыми головами, привлекая финансы из США и других стран Запада. А после победы – тем более!

Сейчас мы невероятно мотивированы, поскольку буквально несколько месяцев назад мы с командой приступили к разработке своей концепции нейросети нового типа. И это как раз на фоне глобальных новостей о том, что мировое научное сообщество также ищет ответы на те же вопросы. К нашей идее мы пришли спонтанно, в разговоре со СТО я предложил идею нового формата нейросети, которая могла бы не просто учиться, а "думать", решать разные задачи для одной и той же структуры сети. Команда подхватила эту идею, мы развили ее и через два месяца получили первое подтверждение гипотезы.

Что это за концепция? Это просто очередная языковая модель или что-нибудь другое?

– Это больше, чем языковая модель. Языковые модели – это просто один из инструментов. Наша концепция гораздо глубже и сложнее, и ее основа – попытка воспроизвести механизмы мышления человека на базовом уровне. Мы хотим создать ИИ, которое сможет не просто выполнять задачи по заданным алгоритмам, но и адаптироваться к новым вызовам, решать проблемы, с которыми раньше не сталкивался, и принимать решения на основе гибкого и постоянного обучения, аккумулируя знания и генерируя новые.

Что уникального в этом подходе по сравнению с тем, что мы видим сейчас на рынке?

- Сейчас на рынке большинство ИИ-систем используются для обработки огромного количества данных и обнаружения паттернов. Наш подход состоит в том, чтобы научить ИИ понимать контекст и смысл задач, адаптироваться к новым ситуациям, понимать не только то, что есть сейчас, но и предвидеть то, что может произойти в будущем. То есть, наш ИИ будет работать не только с данными, но и с неопределенностью.

Мы также стремимся создать систему, которая сможет самостоятельно создавать новые знания. Это очень амбициозная цель, но она имеет огромный потенциал для разных отраслей – от медицины до экономики. Но прежде всего это может быть полезно в области принятия решений. Представь себе системы, которые могут анализировать миллиарды факторов и предложить самые лучшие варианты для любой ситуации. Это может быть полезно как для управления бизнесом, так и политических или даже бытовых решений. ИИ также может помогать в создании новых технологий и открытий. Вместо того, чтобы ждать случайных инноваций, мы сможем использовать ИИ для ускорения научных исследований.

К сожалению, я не могу раскрывать детали, даже сама суть является чувствительной информацией и не подлежит разглашению. Мы выделяем это сейчас в отдельное направление, проект называется Neuralines.

Кому из инвесторов это может быть интересно?

– На самом деле, рынка инвестиций в искусственный интеллект пока не существует в полной мере. Пока менее консервативные инвесторы вкладывают огромные деньги во все, что связано с искусственным интеллектом. Недавно, например, стартап одного из основателей OpenAI получил инвестиции в размере одного миллиарда долларов, так же, как и сам OpenAI. Более консервативные инвесторы предпочитают выжидать определенную стабилизацию процессов и более глубокое понимание направления развития отрасли. Конечно, мы не ожидаем инвестиции в миллиард долларов, но это направление максимально перспективно, и нам уже есть что показать.

На мой взгляд, в таких моментах инвесторам следует быть более дальновидными и включать в свои инвестиционные портфели компании, работающие над глубинными исследованиями в области искусственного интеллекта. Если вспомнить, ранее частное финансирование прогрессивных исследований было привычной практикой, и сейчас именно то время, чтобы вернуться к этому подходу. Первые признаки этого мы уже видим. Так, из недавних новостей Университет Оксфорда открыл лабораторию ИИ, где планирует соединить философию и технологию, стимулируя глубинные исследования. Это очень положительный сигнал для рынка.

Почему вы сосредоточены на нейронах – это ключевой вопрос в развитии ИИ?

– Дело в том, что один нейрон является по сути микро-кирпичиком ИИ-вселенной, все, что вы видите вокруг, построено на нейросетях разных видов, типов, архитектур. И от характеристик нейронов многое зависит. Долгое время развитие шло более или менее экстенсивно, не было проблем с расширением нейросети за счет добавления большего количества нейронов или группировки нескольких нейросетей в определенные сверхструктуры. Теперь, когда мы начинаем постепенно сталкиваться с ограничениями вычислительных возможностей, все чаще возникают вопросы оптимизации как процессов обучения моделей, так и процессов забывания при доучении.

Почему нейроны теряют прогресс и почему так сложно научить их развиваться в знаниях, как человек, накапливая информацию, а не теряя ее?

– Мы, как человечество, до сих пор не полностью понимаем, как функционирует человеческий мозг, являющийся аналогом нейронной сети. В мозге, кроме электрических сигналов, передаваемых от нейрона к нейрону через синапсы, происходят также биохимические процессы, над природой и свойствами которых трудятся лучшие умы в этой сфере. Собственно, процессы обучения и забывания – это то, что в значительной степени определяет работу мозга.

Что такое нейроны?

– Ответ на этот вопрос не так прост, но попробую объяснить. Нейрон — это вычислительный узел, который принимает несколько входов, выполняет математические операции над значениями этих входов, применяет функцию активации и выдает результат, передавая его другим нейронам. Когда значение на выходе сравнивается с ожидаемым значением, вычисляется ошибка, и на основе этой ошибки начинается процесс коррекции значений нейронов в обратном направлении от выхода. Это называется обратное распространение ошибки (backpropagation).

Когда сеть обучена, она сохраняет значение нейронов. Но если мы хотим дополнительно обучить сеть на новых примерах, можем столкнуться с проблемой коррекции весов нейронов так, что эти изменения повлияют на распознавание самых ранних примеров.

Это уже звучит как нечто космическое…

- Объясню попроще. Представьте, что вы ребёнок и только изучаете таблицу умножения. Вы научились умножению на 2, потом на 3, затем на 4. Некоторое время вы отдыхаете и проверяете себя – все хорошо, вы все помните. Но когда вы решили перейти к умножению на 5, вы начинаете замечать, что умножение на 3 вспоминается хуже. Нечто схожее может происходить и с нейронными сетями. Это лишь один из примеров того, почему ИИ может забывать или перестать "понимать", что от него хотят.

Что конкретно даст на практике ваше исследование по обучению нейронов? Кому будет от этого польза, и что вам, как бизнесу, это даст?

– Наши исследования могут существенно оптимизировать процессы обучения нейросетей и формирование мультизадачных моделей. Основной прорыв заключается в создании подхода к обучению, который будет больше похож на то, как учится человек. Если нам удастся добиться успеха, это приведет к более естественному и гибкому процессу обучения и запоминания для ИИ, что позволит ему адаптироваться к новым задачам и знаниям, не теряя старых.

Такой прорыв принесет пользу многим сферам: от образования и медицины до бизнеса и кибербезопасности. Более эффективные и адаптивные ИИ-модели смогут лучше справляться с задачами, требующими комплексного подхода, а также обеспечивать более точные и релевантные результаты. Для бизнеса это откроет новые возможности для разработки продуктов и услуг, повышая их конкурентоспособность.

Если нам удастся достичь прорыва, это может привести к созданию более общего искусственного интеллекта (AGI), являющегося долгожданной целью в сфере ИИ. В отличие от нынешних ИИ-систем, которые являются хоть и сверхсложными, но в большинстве своем калькуляторами, AGI будет способен к более глубокому пониманию и размышлению, что будет похоже на человеческий интеллект.

Какие ТОП-3 научных прорыва ты назвал бы и какое место отводишь вашей сфере исследований?

– В ТОП-3 я бы выделил генеративные сети, прорывы в области квантовых вычислений, да и вообще развитие биоинформатики и персонализированной медицины.

Генеративные сети кардинально изменили ландшафт науки и бизнеса, а также привели к новым угрозам, упрощая социальную инженерию и автоматизируя многие процессы. Видимо, именно поэтому Safe Superintelligence Ильи Суцкевера недавно привлекла $1 млрд для создания решений в сфере кибербезопасности. Ну, и что немаловажно, генеративные сети привлекли много внимания социума, именно поэтому это номер один. Но мое любимое направление – это прорывы в области квантовых вычислений. Эти технологии обещают революционизировать обработку данных и решение сложных задач, которые невозможно решить с помощью традиционных вычислительных методов. Но вместе с тем изменяют правила игры по защите информации. Ну, и могут значительно усилить сферу ИИ. Также биоинформатика, как молодая наука, делает существенный прогресс в последнее время, кстати используя и методы ИИ. Новые методы анализа геномных данных позволяют разрабатывать более эффективные и персональные подходы к лечению заболеваний.

Как ты относишься к хайпу вокруг рынка ИИ и разговоров о его перегретости?

– Я бы сказал, что рынок не "уже перегрет", а "пока перегрет", то есть предложение растет с каждым днем, а стабильного спроса пока нет. Бизнес еще не полностью понимает, что такое ИИ и как это работает. Многие вообще считают, что решения на основе искусственного интеллекта им не нужны, ведь "мы вдали от всех этих ваших интеллектов, наш бизнес прост и приземлен".

Похоже бизнесы думали в эпоху становления Интернета, считая, что веб-сайты – это нечто модное и совершенно необязательное. А затем Билл Гейтс произнес фразу "If your business is not on the Internet, you don't have a business", которую можно перефразировать как "если у вашего бизнеса нет веб-сайта, то у вас нет бизнеса". Понадобились годы, чтобы бизнес это понял. Конечно, это изменило ландшафт – на поверхность вынырнули те бизнесы, которые первыми это поняли. Так что рынок ИИ также сформируется со временем, и тогда мы еще раз поговорим об этом.

Каким ты видишь практическое применение и прогресс ИИ через 5 лет? Как будет выглядеть мир, и какого прогресса в вашей сфере исследований можно ожидать согласно твоему ощущению и прогнозу?

– Когда я был еще школьником и увлекался научной фантастикой, я представлял себе наше будущее в 2030 году таким, каким его рисовали люди с удивительным воображением – Айзек Азимов, Рэй Брэдбери, Артур Кларк, Роберт Шекли, Клиффорд Саймак, Роберт Хайнлайн. Сейчас, чем ближе мы к 2030 году, я понимаю, что в 2030 году мы не увидим летучих машин, как массового явления, и большого ИИ, управляющего преуспевающей планетой. Но самое важное, что может произойти – уже произошло. Человечество раз и навсегда пустило ИИ из запертых лабораторий в свои уютные дома. ИИ станет еще более близким, более понятным и удобным. Его станет больше во всех областях. И да, это вероятно приведет к значительным экономическим перезагрузкам и возможным локальным кризисам. На мой взгляд, этот процесс неотвратим, ведь он эволюционен, а сопротивляться эволюции – дело бесполезное.

Единственное, что можно сказать точно, это то, что через 5 лет ИИ станет еще более интегрированным в разные аспекты нашей жизни. Это может включать активное использование ИИ в медицине для персонализированных решений, более точного диагностирования и прогнозирования заболеваний, может даже с использованием ИИ будет изобретен лекарство от неизлечимых ранее болезней. Точно будут автоматизированы многие бизнес-процессы. Хочется верить, что будут созданы системы персонализированного обучения, где ИИ адаптирует материалы, учитывая потребности студентов. У меня с учебой тоже отдельная история - как преподаватель кафедры информационной безопасности НН ФТИ КПИ им. И. Сикорского (физтех), я всегда выступал за более интерактивное и даже иммерсионное обучение, а также за использование наиболее передовых технологий. И наши студенты уже с первых курсов разбираются в основах ИИ, применяя его в том числе к процессам обучения. Это вдохновляет!

А в нашей сфере исследований прогресс может позволить моделям лучше адаптироваться к новым данным, сохраняя старые знания, построить действительно мультизадачные модели, способные интегрировать информацию из разных источников и создавать более сложные решения, а еще, возможно, учиться вообще без учителя, формируя выводы и генерируя новые знания. Более глубокое понимание имитации человеческого интеллекта приблизит нас к созданию всеобщего искусственного интеллекта, способного к более глубокому пониманию контекста. В общем, прогресс в ИИ будет зависеть от интеграции новых технологий в практические решения, которые изменят нашу жизнь и бизнес-процессы. Будущее обещает быть интересным, это точно!