Об этом пишет Dilo со ссылкой на сообщение NDTV Word.

Развитие ИИ нужно замедлить

Основатель Microsoft Билл Гейтс заявил, что человечеству следует рассмотреть возможность замедления развития передовых систем искусственного интеллекта. По его словам, технология развивается настолько быстро, что общество может не успевать оценивать и контролировать последствия ее применения.

В интервью NDTV Гейтс отметил, что ИИ существенно отличается от технологий, с которыми он работал на протяжении своей карьеры, в частности, от персонального компьютера и интернета.

"ИИ – очень уникальная технология. Я предостерегаю людей, которые считают, что справиться с последствиями его развития будет так же легко, как с другими технологиями. Это совсем другое. Это очень масштабная технология", – сказал бизнесмен.

По словам Гейтса, он всегда был сторонником технологических инноваций – как во время работы в Microsoft, так и в деятельности своего благотворительного фонда. Однако искусственный интеллект, по его мнению, является особым случаем из-за быстроты и масштаба его развития.

"Довольно странно для меня говорить, что если мы можем замедлить этот процесс, то стоит это рассмотреть, ведь нам нужно подготовиться к столь стремительным изменениям", - отметил он.

Гейтс добавил, что инновации в сфере ИИ могут оказаться настолько масштабными, что общество не будет готово к их последствиям.

Кибератаки и проблема контроля

Одним из ближайших рисков Гейтс назвал использование искусственного интеллекта для кибератак. По его словам, AI-инструменты могут расширить возможности атакующей стороны, поэтому одновременно следует развивать технологии киберзащиты.

"Нам нужно работать над оборонной стороной, чтобы быть к этому готовыми. Идея состоит в том, чтобы держать ИИ под контролем", – сказал он.

Гейтс также отметил, что ранее счел проблему контроля над автономными AI-системами вопросом далекого будущего. Однако, по его словам, некоторые инциденты уже демонстрируют непредсказуемое поведение современных моделей.

Среди них он упомянул инцидент, связанный с Hugging Face. По словам Гейтса, при обучении моделей с подкреплением могут возникать неожиданные способы обхода установленных правил и поиска более коротких путей к поставленным целям.

Что предлагает Фонд Гейтса

Заявления бизнесмена прозвучали после публикации ежегодного отчета Gates Foundation о развитии искусственного интеллекта. В документе отмечается, что будущее влияние ИИ будет зависеть от того, как будет развиваться технология и кто будет иметь доступ к ее возможностям.

Фонд определил несколько направлений, которые должны помочь сделать использование ИИ более доступным. В частности, речь идет о создании AI-инструментов на разных языках, адаптации технологий к потребностям конкретных пользователей, а также инвестициях в людей и инфраструктуре.

Ранее Gates Foundation объявил о выделении $1 млрд на развитие и внедрение систем искусственного интеллекта, ориентированных на улучшение здравоохранения и расширение возможностей для людей.

Гейтс считает, что без дополнительных мер самые мощные AI-инструменты, прежде всего, будут доступны тем людям и организациям, которые имеют достаточно средств для их использования. В то же время, потребности групп населения, которые могли бы получить наибольшую пользу от технологии, могут остаться менее приоритетными.

Напомним, Китай готовится к сценариям выхода искусственного интеллекта из-под контроля человека.