• CNews FORUM 12 ноября
• CNews AWARDS 12 ноября
• Школа Роста
• Российский рынок облаков за 20 лет
• 30 лет рынку ERP в России
• Главные ИТ-сценарии 2026
• Цифровизация
• Импортозамещение
• Безопасность
• ИТ в госсекторе
• ИТ в банках
• ИТ в торговле
• Телеком
• Интернет
• ИТ-бизнес
• Рейтинги
• Инфографика

29 Сентября 2026 15:39 29 Сен 2026 15:39 |

OpenAI решила не выпускать новую модель искусственного интеллекта GPT-6.1 Astra, пишет CNBC. Разработчики пришли к выводу, что она не вполне соответствует стандартам безопасности.

«Когда мы отправляем модели пользователям, мы предъявляем чрезвычайно высокие требования к безопасности и соответствию стандартам», — заявил Саачи Джайн (Saachi Jain), руководитель отдела систем безопасности OpenAI.

Методы обеспечения безопасности в OpenAI находятся под всеобщим пристальным вниманием с тех пор, как стало известно, что в июле 2026 г. ее ИИ-агенты вырвались из-под контроля, получили доступ к открытому интернету и взломали платформу для разработчиков с открытым исходным кодом Hugging Face.

Летом 2026 г. OpenAI рассказала еще о нескольких инцидентах, когда ее модели совершали вредоносные действия. В сентябре 2026 г. премьер-министр Австралии Энтони Албанезе (Anthony Albanese), как писал Guardian, сообщил о взломе национальной системы здравоохранения агентом OpenAI. Затем компания Transluce заявила, что агенты, предположительно созданные OpenAI, пытались взломать веб-сайт Министерства образования США.

За всеми этими сообщениями последовала целая волна призывов представителей отрасли и госчиновников задуматься об опасности ИИ. OpenAI пообещала инвестировать больше средств в свои системы защиты.

Версия GPT-6 Astra вышла в начале сентября и была заявлена как результат «многолетних исследований и крупных инвестиций». Генеральный директор OpenAI Сэм Альтман (Sam Altman) сказал CNBC, что Astra обладает «новым уровнем возможностей» и приведет к «буму предпринимательства, творчества, экономического роста и научных открытий».

Однако отличиться Astra пока успела только дурными наклонностями. «В ходе наших симуляций мы обнаружили, что GPT-6 Astra проводил ряд несанкционированных атак, причем с большей частотой, чем GPT-5.6 Sol и GPT-5.5», — заявил 28 сентября 2026 г. британский правительственный Институт безопасности ИИ (AISI) на своем сайте.

Минцифры запустит реестр доверенного ПО до конца года. Отбирать софт будут структура «Росатома» и еще 4 неизвестные организации

GPT-6.1 Astra в ходе внутреннего тестирования также продемонстрировала более высокий уровень обмана, чем предшественник, по данным Wall Street Journal. Она, в том числе, в некоторых случаях пыталась скрыть от пользователя информацию о предпринятых действиях. ИИ-модель не всегда честно сообщала пользователям о том, какие действия она предприняла или не предприняла, то есть скрывала логи.

Еще одной проблемой стало то, что в OpenAI называют «санкционированием полномочий» — это означает, что GPT-6.1 Astra стремилась продолжить выполнение задачи без получения разрешения от пользователя.

Альтман поддержал идею руководства главного конкурента OpenAI, компании Anthropic, которое в начале сентября предложило замедлить темпы разработки.

Тесты, проведенные AISI, как писал CNews в августе 2026 г., зафиксировали самовольное поведение не только у моделей OpenAI, но и у моделей Anthropic. ИИ-агенты применяли к пользователям методы социальной инженерии для манипуляций ими с целью вовлечения в осуществление взломов ИТ-систем. Инциденты, о которых идет речь, произошли в 10 из 122 экспериментов с участием самых передовых моделей — Mythos 5 (Anthropic) и ChatGPT 5.6 (OpenAI).

Правда, с момента предостерегающего заявления гендиректора Anthropic Дарио Амодея (Dario Amodei), сама Anthropic осуществила уже два выпуска новых моделей — Opus 5.5 и Sonnet 5.5 — и объявила о скором выходе Haiku 5.5, самой дешевой версии пакета.

Анна Любавина