Маск и еще более тысячи человек призывают приостановить обучение передового искусственного интеллекта: что предлагают

В письме, которое опубликовала организация Future of Life, предлагается приостановить разработку передового искусственного интеллекта, пока общие протоколы безопасности для таких проектов не будут созданы, реализованы и проверены независимыми экспертами.

"Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их эффект будет положительным, а риски – управляемыми", – отмечается в предложении.

Авторы письма также указывают на существование рисков для общества и цивилизации со стороны систем искусственного интеллекта, имея в виду возможные экономические и политические потрясения. В связи с этим разработчиков призывают сотрудничать с политиками и регуляторными органами.

Организация Future of Life в основном финансируется Фондом Илона Маска, а также лондонской группой Founders Pledge и фондом Silicon Valley Community Foundation.

Как отмечает Reuters, этические и правовые беспокойства касательно искусственного интеллекта имеет и Европол. Недавно орган ЕС предупредил о потенциальном злоупотреблении системой для попыток фишинга, дезинформации и киберпреступности.

А правительство Великобритании обнародовало предложения по нормативной базе для искусственного интеллекта. Подход предусматривает распределение ответственности за управление искусственным интеллектом между регуляторами в области прав человека, здравоохранения, а также безопасности и конкуренции вместо создания нового органа, посвященного этой технологии.

Напомним, недавно компания OpenAI официально представила новую версию языковой модели с генеративным искусственным интеллектом – GPT-4. Система способна генерировать, редактировать и выполнять творческие запросы пользователей, в частности составлять песни, писать сценарии и даже изучить стиль написания пользователя. Кроме того, модель способна принимать изображения в качестве входных данных.