Калифорнийский сенатор возобновляет инициативу по обязательным отчетам о безопасности ИИ

Об этом пишет Delo.ua со ссылкой на Techcrunch .

Если закон будет подписан, Калифорния станет первым штатом США, который введет реальные требования прозрачности для ведущих разработчиков ИИ, среди которых, вероятно, будут OpenAI, Google, Anthropic и xAI.

Предыдущий законопроект сенатора Винера, SB 1047, также содержал подобные требования, однако испытал сильное сопротивление со стороны Кремниевой долины и был в результате ветирован губернатором Гевином Ньюсомом. В то же время губернатор созвал рабочую группу из ведущих экспертов ИИ, в том числе соучредительницу World Labs и исследовательницу из Стэнфорда Фэй-Фэй Ли, чтобы наработать цели для безопасности искусственного интеллекта в штате.

Эта рабочая группа недавно опубликовала окончательные рекомендации, отметив необходимость "обязать индустрию публиковать информацию о своих системах" для формирования "надежной и прозрачной среды доказательств". Прессслужба Винера заявила, что поправки в SB 53 в значительной степени основываются на этом отчете. "Законопроект все еще находится в процессе доработки, и я с нетерпением жду дальнейшего сотрудничества со всеми заинтересованными сторонами, чтобы сделать этот документ максимально научно обоснованным и справедливым", — говорится в заявлении сенатора.

Цель SB 53 – достичь баланса, которого, по словам губернатора Ньюсома, не хватало SB 1047: создать реальные требования прозрачности для крупных разработчиков ИИ, не мешая при этом стремительному росту отрасли в Калифорнии. "Эти вопросы мы и другие организации поднимали уже давно", — сказал Натан Келвин, вице-президент по штату некоммерческой организации Encode, занимающейся безопасностью ИИ. — "То, чтобы компании объясняли публике и правительству, какие меры они предпринимают для уменьшения рисков, — это минимально необходимый, разумный шаг".

Законопроект также предусматривает защиту обличителей (whistleblowers) — работников лабораторий ИИ, считающих, что технологии их компаний несут "критическую угрозу" для общества. В документе это определено как причинение смерти или травм более 100 человек или ущерб на сумму свыше $1 млрд. Кроме того, SB 53 предусматривает создание CalCompute – публичного облачного вычислительного кластера для поддержки стартапов и исследователей, разрабатывающих масштабные модели ИИ.

В отличие от SB 1047, новый законопроект не возлагает на разработчиков ИИ ответственность за ущерб, причиненный их моделями. Также SB 53 не создает барьеров для стартапов и исследователей, которые настраивают модели ведущих компаний или работают с открытым кодом. Сейчас, с новыми поправками, SB 53 передан на рассмотрение Комитета по конфиденциальности и защите прав потребителей Калифорнийской ассамблеи. Если он будет одобрен, пройдет еще несколько этапов в законодательном процессе, прежде чем попасть на подпись к губернатору.

Между тем на другом побережье США губернатор штата Нью-Йорк Кэти Гокул рассматривает схожий законопроект — RAISE Act, который также предусматривает публикацию отчетов о безопасности и защите от рисков крупными разработчиками ИИ.

Дальнейшая судьба таких инициатив, как RAISE Act и SB 53, была под угрозой, когда федеральные законодатели рассматривали 10-летний мораторий на регулирование ИИ штатами.

"Обеспечение безопасного развития ИИ не должно быть противоречивым – это должно быть основой", – заявил бывший президент Y Combinator Джефф Ралстон. — "Конгресс должен стать лидером, требуя прозрачности и ответственности от компаний, создающих передовые модели. Но, поскольку серьезных действий на федеральном уровне нет, штаты должны взять инициативу на себя. SB 53 — образец продуманного и структурированного лидерства штата".

До этого момента законодателям не удавалось добиться поддержки со стороны ИИ-компаний по прозрачности. Хотя Anthropic в целом поддерживает идею большей открытости и даже положительно оценила рекомендации калифорнийской рабочей группы, такие компании как OpenAI, Google и Meta оказались значительно менее благосклонными к этому курсу.

Ведущие разработчики ИИ, как правило, публикуют отчеты о безопасности своих моделей, однако в последние месяцы стали делать это менее системно. Например, Google не публиковал отчет о безопасности модели Gemini 2.5 Pro — самой мощной на сегодняшний день — вплоть до нескольких месяцев после ее запуска. OpenAI тоже не опубликовала отчет о безопасности GPT‑4.1, после чего независимое исследование предположило, что она может быть менее безопасной, чем предыдущие модели.

SB 53 — это смягченная версия предыдущих инициатив по безопасности ИИ, однако она способна заставить компании обнародовать больше информации, чем сейчас. Пока технологические гиганты внимательно наблюдают за тем, как сенатор Винер снова испытывает пределы приемлемого.

Ранее сообщалось, 44 генеральных директора ведущих европейских компаний обратились с открытым письмом к президентке Еврокомиссии Урсули фон дер Ляен с призывом приостановить вступление в силу Закона об искусственном интеллекте (AI Act) по меньшей мере на два года. Среди подписавшихся руководители Airbus, BNP Paribas, Carrefour, Philips, Mistral AI, Siemens Energy, ASML и других ключевых игроков рынка.