У Цукерберга бьют тревогу: ChatGPT используют злоумышленники

мета
Фото: Facebook Meta

Владелец Facebook компания Meta заявила, что обнаружила поставщиков вредоносного программного обеспечения, использующих интерес к ChatGPT, чтобы привлечь пользователей к загрузке вредоносных программ и расширений для браузеров.

Забезпечте стрімке зростання та масштабування компанії у 2024-му! Отримайте алгоритм дій на Business Wisdom Summit.
10 квітня управлінці Арсенал Страхування, Uklon, TERWIN, Епіцентр та інших великих компаній поділяться перевіреними бізнес-рішеннями, які сприяють розвитку бізнесу під час війни.
Забронировать участие

Об этом сообщает Reuters .

Начиная с марта, Meta обнаружила около 10 семейств вредоносных программ и более 1000 вредоносных ссылок, которые рекламировались как инструменты с популярным чат-ботом на основе искусственного интеллекта.

В некоторых случаях вредоносные программы предоставляли рабочую функциональность ChatGPT вместе с вредоносными файлами, сообщили в компании.

Выступая на пресс-брифинге, посвященном отчету, директор по информационной безопасности Meta Гай Розен сказал, что для злоумышленников "ChatGPT – это новая криптовалюта".

Розен и другие руководители Meta заявили, что компания готовит защиту от потенциальных злоупотреблений, связанных с технологиями генеративного искусственного интеллекта, которые могут создавать подобные человеческим текстам, музыке и искусству.

Законодатели отметили, что эти инструменты могут облегчить распространение дезинформационных кампаний в Интернете.

На вопрос, используется ли генеративный ИИ уже в информационных операциях, руководители ответили, что пока рано, хотя Розен сказал, что ожидает, что "недобросовестные игроки" будут использовать эти технологии, чтобы "попробовать ускорить и, возможно, увеличить масштабы" своей деятельности.

Напомним, исполнительные директора Google, Microsoft, OpenAI и Anthropic компании Alphabet были вызваны в Белый дом на встречу с вице-президентом Камалой Харрис и высшими должностными лицами администрации, чтобы обсудить ключевые вопросы безопасности искусственного интеллекта. В приглашении было сказано, что президент США Джо Байден ожидает, что такие крупные компании должны убедиться, что их продукты безопасны, прежде чем делать их доступными для общественности.

Компания Samsung Electronics Co. запрещает сотрудникам использовать популярные инструменты генеративного искусственного интеллекта, среди которых – ChatGPT. К тому же ChatGPT запрещен в Италии, а в Китае потребуют от компаний проводить проверки безопасности генеративных служб искусственного интеллекта, похожих на ChatGPT, прежде чем им будет позволено работать.