Як пише Dilo, про це інформує Reuters.

Політики та регулятори Пекіна активно готуються до аналогічних викликів, оскільки США та Китай залишаються головними глобальними рушіями розвитку передового ШІ. Це питання стане однією з ключових тем на майбутніх двосторонніх переговорах між наддержавами.

Різниця підходів до регулювання ризиків

У США дебати зосереджені навколо потенційної екзистенційної загрози для людства, тоді як у Китаї до передового штучного інтелекту ставляться як до керованої технології. Пекін не вимагає запровадження незалежних моніторів усередині компаній, як пропонувала Anthropic.

Натомість китайська модель регулювання спирається на зобов'язання розробників, державні стандарти, зовнішнє тестування та суворий державний нагляд.

Крім того, на відміну від американських конкурентів, які закривають специфікації своїх систем, китайські розробники масово просувають моделі відкритої ваги для перевірки та оборонної роботи.

Нові правила безпеки

Китайські регулятори вже офіційно визнали "втрату операційного контролю" реальним ризиком безпеки для агентів штучного інтелекту.

Відповідні правила вимагають від розробників покращувати можливості виявлення та блокування неналежної поведінки систем.

Крім того, розробляється перший у світі обов'язковий національний стандарт безпеки таких агентів, а профільні відомства закликають до посилення захисту критичної інформаційної інфраструктури від потенційних загроз з боку новітніх американських та внутрішніх моделей.

Нагадаємо, раніше світовий регулятор закликав посилити контроль за ШІ у фінансовій сфері. Рада з фінансової стабільності наполегливо закликає керівництво компаній запровадити захисні заходи на тлі прискорення використання автономного та "агентного" штучного інтелекту.