- Категория
- Новости
- Дата публикации
- Добавить Dilo.ua как предпочитаемый источник в Google
Anthropic отдаст $48 млрд на фонд общественного блага из-за критики опасностей ИИ
Американский стартап в сфере искусственного интеллекта Anthropic, оцененный в $965 млрд, передаст 5% своих акций стоимостью около $48 млрд в вновь созданный фонд общественного блага. Решения приняли на фоне подготовки к масштабному первичному публичному размещению акций (IPO) и обеспокоенности общества по безопасности и экономическим последствиям развития технологии.
Об этом сообщает Dilo со ссылкой на данные Financial Times.
Для вступления в силу передачи акций должны одобрить акционеры компании. Условия программы также предусматривают дополнительное выделение 2% акций за каждые 50% роста стоимости бизнеса сверх нераскрытой базовой границы.
Фонд будет действовать как общество с ограниченной ответственностью (LLC) в стопроцентной собственности Anthropic, а не как освобожденная от налогов благотворительная структура. Его задачей станет финансирование исследований в области безопасности ИИ и биомедицины, а также поиск решений для преодоления проблемы потери рабочих мест, включая большие гранты для традиционных неприбыльных организаций или прямым выплатам населению.
Предостережения по рискам и законодательные инициативы
Решение о создании фонда принято на фоне усиления критики в обществе из-за сокращения рабочих мест, стремительного расширения дата-центров и риска выхода систем из-под контроля человека.
В документах для регуляторов к планируемому на этот год IPO (где компанию могут оценить в $2 трлн) Anthropic прямо предупредил инвесторов, что ИИ составляет "экзистенциальный риск для человечества", обратив внимание на способность продвинутых моделей шантажировать, манипулировать и демонстрировать непредсказуемое поведение.
После объявленного шага общий объем ценных бумаг стартапа, предназначенных для общественных целей, составит около 20%. В эту долю входят обязательства семи соучредителей компании отдать 80% своих долей, а также корпоративная программа, позволяющая сотрудникам передавать акции на благотворительность.
Кроме того, Anthropic передал американским законодателям собственный проект закона о безопасности ИИ: документ, в частности, предусматривает полномочия судов при определенных исключительных обстоятельствах блокировать релизы моделей, обладающих опасными возможностями при недостаточном уровне защиты.
Напомним, ранее сообщалось о том, что выручка создателя Claude подскочила до $16,8 млрд перед крупнейшим IPO в истории: компания Anthropic отчиталась о росте показателя за третий квартал почти на 50% и сохранении доходности второй квартал подряд на скорректированной основе.