В OpenAI решили приостановить обучение наиболее мощных моделей

Американская компания OpenAI приостановила обучение своих наиболее эффективных моделей искусственного интеллекта. Возобновить процесс планируют только после появления дополнительных мер безопасности, сообщил представитель компании порталу Axios.

По информации источников издания, специалисты OpenAI и Anthropic расследуют несколько десятков тысяч инцидентов, произошедших в последние месяцы во время испытаний технологий и их использования в реальных условиях. При этом значительная часть таких случаев пока не была обнародована.

Предварительное расследование проводят сотрудники обеих компаний при участии приглашенных экспертов. Они изучают обстоятельства произошедших инцидентов и возможности контроля за работой разрабатываемых систем.

Как передает Axios, результаты проверки ставят под сомнение способность OpenAI и Anthropic установить полный контроль над своими технологиями. В компании OpenAI заявили, что намерены возобновить обучение наиболее эффективных моделей только после принятия дополнительных мер безопасности.

Читать также: Постановщик «Человека-паука» может снять новую часть саги «Звездные войны»

ИИ-агенты OpenAI атаковали сайт ООН тысячами запросов