- Категория
- Новости
- Дата публикации
- Переключить язык
- Читати українською
Разработчик Claude призывает остановить развитие ИИ из-за риска потери контроля
Компания Anthropic призвала правительства, исследователей и конкурентов разработать международный механизм коллективной остановки развития передовых ИИ-систем при возникновении серьезных рисков. Авторы аналитического доклада предупреждают о приближении ИИ к способности самостоятельно создавать свои последующие поколения моделей без прямого участия человека.
Об этом сообщает Delo.ua со ссылкой на аналитический отчёт Anthropic.
Главным аргументом для предупреждения стали внутренние данные разработчика. По состоянию на май 2026 года более 80% кода, интегрирующегося во внутреннюю базу Anthropic, пишет ее собственный чат-бот Claude. Для сравнения: до запуска инструмента Claude Code в феврале 2025 этот показатель измерялся лишь несколькими процентами. Кроме того, во втором квартале 2026 типичный инженер компании интегрировал в среднем в восемь раз больше кода в день, чем в 2024 году.
Сверхвысокая производительность и автономность моделей
Современные модели демонстрируют стремительный прогресс не только в автоматизации написания кода, но и в исследовательской деятельности:
- Продолжительная автономная работа: Новейшая модель Claude Mythos Preview показала способность автономно работать над сложными задачами более 16 часов.
- Эффективное исправление ошибок: В одном из внутренних кейсов ИИ помог исправить более 800 программных ошибок, на устранение которых людям понадобились бы годы работы.
- Эволюция исследовательского мышления: При решении сложных исследовательских дилемм модель Mythos Preview в 64% случаев выбирала лучший следующий шаг для расследования проблемы, тогда как модель предыдущего поколения справлялась с этим только в 51% случаев.
В настоящее время ключевым преимуществом человека остается стратегическое мышление и способность видеть более широкую картину вне непосредственной технической задачи. Однако при текущих темпах развития государственные институты и регуляторы рискуют просто не успеть адаптироваться к новым возможностям технологии.
Почему необходим международный контроль
В Anthropic признают, что реализовать глобальную паузу будет очень тяжело из-за жесткой конкуренции. Запуски обучения новых моделей скрыть гораздо легче, чем военные объекты, а стимулы тайно продолжать работу огромны из-за угрозы потери технологического лидерства.
Именно поэтому компания призывает не к односторонним ограничениям, а к созданию скоординированного международного механизма проверки, который позволит контролировать, действительно ли все мировые лаборатории и страны соблюдают договоренности о временной остановке или замедлении разработки передовых моделей.
Напомним, стоимость Anthropic достигла 965 миллиардов долларов. Стартап официально привлек 65 миллиардов долларов в рамках нового раунда финансирования. По итогам этого финансового соглашения рыночная оценка Anthropic взлетела до рекордных 965 миллиардов долларов, превратив разработчика чат-бота Claude в самого дорогого игрока в мировой индустрии искусственного интеллекта.