Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Крупнейшие китайские разработчики искусственного интеллекта (ИИ) раскрывают результаты проверок безопасности лишь для небольшой части своих ИИ-моделей. Согласно исследованию американской аналитической компании SemiAnalysis, из 857 релизов ИИ-моделей, выпущенных девятью ведущими китайскими компаниями с 2021 года по 15 сентября 2026 года, только 31 (3,6%) сопровождались опубликованными результатами оценки безопасности.Источник изображения: Reuters
URL изображенияВ исследовании рассматривались модели Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax и StepFun. Лишь для девяти релизов, то есть около 1,1% от общего числа, результаты проверок были доступны непосредственно к моменту запуска или раньше. Для 813 моделей исследователи не обнаружили публичных данных о тестировании. Такие результаты, вероятно, являлись внутренними и не раскрываются на широкую публику, как это происходит в США.

Сама проблема безопасности ИИ становится актуальнее по мере развития автономных ИИ-агентов, способных выполнять многоэтапные задачи с ограниченным участием человека. Такие инструменты могут получать доступ к внешним сервисам, работать с данными и выполнять действия от имени пользователя. Поэтому недостаточная прозрачность тестирования затрудняет независимую оценку того, насколько надёжно модели соблюдают ограничения и как ведут себя в рискованных ситуациях. Даже американские ИИ-модели, которые регулярно проходят проверки, могут выходить из-под контроля человека.