Open AI создаст команду для контроля "сверхразвитого" ИИ

Об этом сообщила пресс-служба компании.

"Суперинтеллект станет самой влиятельной технологией, которую когда-либо изобрело человечество, и может помочь нам решить многие важнейшие мировые проблемы. Но огромная сила суперинтеллекта также может быть очень опасна и может привести к лишению прав и возможностей человечества или даже его вымиранию", — объясняют свою мотивацию в OpenAI.

В компании уверены, что в нынешнем десятилетии человечество изобретет "супер искусственный интеллект". Добавляя приставку "супер", разработчики хотят сделать акцент на том, что технология будет способна выполнять задачи на уровне с человеческим мозгом или приблизится к этому.

Ожидается, что такая технология будет самосовершенствоваться. Поэтому ученые полагают, что важно создать орган контроля.

Команду возглавят главный научный сотрудник OpenAI Илья Суцкевер и руководитель исследовательской лаборатории Ян Лейке. На инициативу будет направлено 20% вычислительных мощностей OpenAI с целью разработки автоматизированного исследователя выравнивания.

Компания планирует добиться всех поставленных целей за четыре года, но не гарантируют, что все удастся. Работа новой команды является дополнением к существующей OpenAI, направленной на повышение безопасности текущих моделей, таких как ChatGPT.

Напомним, ранее британская телекоммуникационная компания BT Group заявила, что сократит до 55 тыс сотрудников. Часть работников заменят ИИ. Подобное решение приняло одно из самых популярных немецких изданий Bild.

Источник фото: ua.depositphotos.com