- Категорія
- Новини
- Дата публікації
- Змінити мову
- Читать на русском
Розробник Claude закликає зупинити розвиток ШІ через ризик втрати контролю
Компанія Anthropic закликала уряди, дослідників та конкурентів розробити міжнародний механізм колективної зупинки розвитку передових ШІ-систем у разі виникнення серйозних ризиків. Автори аналітичної доповіді попереджають про наближення ШІ до здатності самостійно створювати власні наступні покоління моделей без прямої участі людини.
Про це повідомляє Delo.ua з посиланням на аналітичний звіт Anthropic.
Головним аргументом для попередження стали внутрішні дані розробника. Станом на травень 2026 року понад 80% коду, який інтегрується у внутрішню базу Anthropic, пише її власний чат-бот Claude. Для порівняння: до запуску інструменту Claude Code у лютому 2025 року цей показник вимірювався лише кількома відсотками. Крім того, у другому кварталі 2026 року типовий інженер компанії інтегрував у середньому у вісім разів більше коду на день, ніж у 2024 році.
Надвисока продуктивність та автономність моделей
Сучасні моделі демонструють стрімкий прогрес не лише в автоматизації написання коду, а й у дослідницькій діяльності:
- Тривала автономна робота: Найновіша модель Claude Mythos Preview показала здатність автономно працювати над складними завданнями понад 16 годин поспіль.
- Ефективне виправлення помилок: В одному з внутрішніх кейсів ШІ допоміг виправити понад 800 програмних помилок, на усунення яких людям знадобилися б роки праці.
- Еволюція дослідницького мислення: Під час вирішення складних дослідницьких дилем модель Mythos Preview у 64% випадків обирала найкращий наступний крок для розслідування проблеми, тоді як модель попереднього покоління справлялася з цим лише у 51% випадків.
Наразі ключовою перевагою людини залишається стратегічне мислення та здатність бачити ширшу картину за межами безпосереднього технічного завдання. Проте за поточних темпів розвитку державні інституції та регулятори ризикують просто не встигнути адаптуватися до нових можливостей технології.
Чому необхідний міжнародний контроль
В Anthropic визнають, що реалізувати глобальну паузу буде надзвичайно важко через жорстку конкуренцію. Запуски навчання нових моделей приховати набагато легше, ніж військові об'єкти, а стимули таємно продовжувати роботу є величезними через загрозу втрати технологічного лідерства.
Саме тому компанія закликає не до односторонніх обмежень, а до створення скоординованого міжнародного механізму перевірки, який дозволить контролювати, чи дійсно всі світові лабораторії та країни дотримуються домовленостей про тимчасову зупинку або уповільнення розробки передових моделей.
Нагадаємо, вартість Anthropic сягнула 965 мільярдів доларів. Стартап офіційно залучив 65 мільярдів доларів у межах нового раунду фінансування. За підсумками цієї фінансової угоди ринкова оцінка Anthropic злетіла до рекордних 965 мільярдів доларів, перетворивши розробника чат-бота Claude на найдорожчого гравця у світовій індустрії штучного інтелекту.