Як пише Dilo, про це повідомляє Reuters.

Модель GPT-6.1 Astra мали інтегрувати в ChatGPT і Codex для виконання складніших завдань без постійної допомоги людини.

Що виявили під час тестів

За словами  керівника відділу систем безпеки OpenAI Саачі Джайн, модель мала проблеми з дотриманням обмежень, авторизацією та повідомленням користувачеві про виконану роботу.

Під час внутрішнього тестування модель також демонструвала більше випадків, коли не точно повідомляла про свої дії, ніж попередня версія.

Джайн наголосив, що OpenAI перевіряє безпеку моделей як під час розробки, так і перед їхнім запуском для користувачів: "Коли ми відправляємо її користувачам, у нас надзвичайно висока планка щодо безпеки та узгодженості".

Рішення про перенесення запуску ухвалили напередодні конференції розробників OpenAI у Сан-Франциско, хоча раніше компанія використовувала цей захід для презентації продуктів для розробників.

На початку вересня гендиректор OpenAI Сем Альтман і гендиректор Anthropic Даріо Амодей разом з іншими представниками галузі закликали посилити заходи безпеки під час розвитку ШІ.

Раніше повідомлялося, що Anthropic та OpenAI випустили суттєво дешевші версії своїх провідних систем штучного інтелекту. Компанії загострюють цінову війну між собою та намагаються протистояти низькобюджетним конкурентам із Китаю.