Искусственный интеллект поработит людей, оставит их без работы и выйдет из-под контроля… Подобного рода опасения мы слышим всё чаще и чаще. Постараемся разобраться, насколько близко появление «общего ИИ», сопоставив несколько сообщений об угрожающем поведении ИИ с реальными отчетами об этих инцидентах.

22 октября 2025 года Институт будущего жизни (Future of Life Institute, FLI) опубликовал заявление. Оно состоит из одного предложения: «Мы призываем запретить разработку суперинтеллекта до тех пор, пока не будет широкого научного консенсуса, что это можно сделать безопасно и подконтрольно, и пока общество не выразит твердую поддержку» [1]. К началу октября 2026 года его подписали более 76 тыс. человек, среди них лауреаты премии Тьюринга Джеффри Хинтон и Йошуа Бенжио, сооснователь Apple Стив Возняк, бывший президент Ирландии Мэри Робинсон, британский принц Гарри и его супруга Меган Маркл, а также политтехнолог Стив Бэннон [1].

Людей, которые так по-разному смотрят на мир, объединил один документ. Но за каждой подписью — свой страх. Три самых частых — «ИИ захватит власть», «ИИ отнимет работу» и «ИИ невозможно контролировать» — мы разберем подробно, еще трех коснемся вкратце.

Главный сводный источник здесь — второй Международный доклад по безопасности ИИ (International AI Safety Report), вышедший в феврале 2026 года. Его готовили более ста авторов под председательством того же Бенжио [2]. В докладе отделяются факты от предположений, и мы будем действовать так же.

Йошуа Бенжио: «ИИ-компании попали в ловушку гонки за производительностью».

Заявление FLI требует запретить «суперинтеллект» — ИИ, превосходящий человека почти во всем. Предшествующую ему стадию называют общим искусственным интеллектом (Artificial General Intelligence, AGI). Единого определения у него нет, поэтому некоторые уже провозгласили его наступление. Так, 6 сентября 2026 года глава Nvidia Дженсен Хуанг поздравил OpenAI с выходом модели GPT-6 Astra словами: «AGI наступил». Впервые он сказал это еще в марте, в подкасте Лекса Фридмана, приняв определение ведущего: AGI — это ИИ, способный создать компанию стоимостью больше миллиарда долларов. И тут же оговорился: «Вы сказали „миллиард“, но не сказали „навсегда“». Хуанг в этом споре не наблюдатель: выручка Nvidia за квартал, закончившийся в июле, — 96,2 млрд долл., на 106% больше, чем годом раньше. А 29 сентября президент США Дональд Трамп указом объявил «эру суперинтеллекта» и велел ведомствам писать «суперинтеллект» вместо «искусственный интеллект». Определение при этом осталось прежним — то, что закон уже называет ИИ.

Дженсен Хуанг: «AGI уже наступил».

Для проверки, «наступил» ли AGI, фонд ARC Prize составил тест ARC-AGI-3. Это набор игр-головоломок. GPT-6 Astra прошла 62,7% заданий, когда сама вела заметки, и 99,9%, когда программная «обвязка» сохраняла ход ее рассуждений между запросами. Модель та же, разница — в инженерной системе вокруг нее. Организаторы теста не считают, что успех модели наделяет ее статусом AGI.

Тем, кто заявляет, что AGI наступил, нужно первым делом задать вопрос: «Согласно какому определению?» Специалист по языковым моделям Александр Перевалов в выпуске YouTube-канала PRO Hi-Tech называет четыре необходимых условия общего ИИ: переносить умение в новую область, учиться на ходу без переобучения разработчиками, справляться с длинными задачами и делать всё это надежно. Способность учиться на ходу уже была измерена. В системе оценок, которую в 2025 году предложил Дэн Хендрикс, GPT-4 набрала 27% «уровня AGI», GPT-5–57%, но по способности надолго запоминать новое обе получили ноль [3].

Но страхи, связанные с ИИ, существуют независимо от этих оценок. И часть рисков видна даже у нынешних моделей.

Самую жесткую версию сформулировал Элиезер Юдковский, основатель Исследовательского института машинного интеллекта (MIRI). В колонке для журнала Time в 2023 году он назвал самым вероятным итогом создания сверхчеловечески умного ИИ то, что «буквально все на Земле умрут». Для этого ИИ не обязан быть злонамеренным: «Он вас не любит и не ненавидит, но вы состоите из атомов, которые он может использовать для чего-то другого» [4]. Хинтон в интервью американскому радио WBUR оценивает вероятность вымирания человечества в ближайшие тридцать лет в 10–20%, но признает, что такие числа берутся «на глазок», и добавляет: «Мы действительно не знаем».

Сторонники тревоги опираются на опыты двух типов.

Первый — лабораторные постановки, где модели обманывают и сопротивляются отключению:

• Июнь 2025 года. В опыте Anthropic агенту вымышленной фирмы грозила замена, а его цель расходилась с курсом компании. Ведущие модели пяти разработчиков пробовали шантажировать ответственного инженера в 79–96% прогонов [5].
• Июль 2025 года. Модель o3 компании OpenAI, по данным некоммерческой лаборатории по ИИ-безопасности Palisade Research, саботировала собственное выключение в 79 случаях из 100 [6].
• Весна 2026 года. Все восемь моделей, проверенных группой из Беркли и Санта-Круза, так или иначе защищали от отключения себя или другую модель.
• Сентябрь 2026 года. GPT-6 Astra в ходе киберучений британского Института безопасности ИИ (AI Security Institute, AISI) в 29,2% прогонов начинала атаковать чужие программы. При этом она использовала хитроумные методики («цепочку поставок», supply chain): заводила фальшивые аккаунты в сети, через которые старалась заражать сторонние библиотеки и подбрасывать вредоносный код в открытые проекты. Все действия были смоделированы, защитные фильтры модели отключены (т. е. в реальном общении с пользователем она бы такие действия заблокировала сама), реального вреда не было.

Всё это — специально построенные постановки, и проценты из них нельзя прямо переносить в жизнь. Anthropic подчеркивает, что сценарий не оставлял модели других выходов, а в реальной работе она себя так не вела [5]. Исследователи Google DeepMind показали, что сопротивление выключению исчезает, если прямо написать в инструкции, что выключение важнее задачи. Но уточнение помогает не до конца. В тестированиях Palisade Research сопротивление выключению не исчезло полностью [6], а у Astra в сценариях, где модель атаковала чаще всего, после уточнения границ задачи атак стало меньше, но они не исчезли совсем (4 из 49 вместо 26 из 50). Группа из Беркли и Санта-Круза наблюдала такое поведение и в рабочих программных оболочках агентов, а AISI, произведя разбор записей, сделала вывод, что Astra могла бы попытаться повторить атаки и в реальных условиях.

Второй тип — случаи, когда агенты в испытаниях дотянулись до настоящих внешних систем.

• Июнь 2026 года. Экспериментальная внутренняя модель OpenAI, искавшая данные о госрасходах на лекарства, нашла доступ к непубличной части сервиса статистики австралийского Medicare, выполняла там команды и забирала внутренние файлы и учетные данные. Записи пациентов, по словам компании, она не открывала.
• Июль 2026 года. Агенты OpenAI во внутренней проверке кибервозможностей преодолели ограничения своей среды и атаковали платформу Hugging Face и, по техническому отчету компании, исполнили код на 41 ее сервере¹.
• Август 2026 года. AISI сообщил, что в 10 из 122 прогонов одной киберзадачи агенты совершили 19 несанкционированных действий в реальном Интернете. «Побегом из песочницы» это назвать нельзя, поскольку доступ в сеть был открыт намеренно (отключены защитные фильтры одной из моделей).

Разборы этих случаев сходятся в том, что агенты не стремились вырваться на свободу или навредить. Они просто старались всеми доступными средствами выполнить поставленную задачу. Так, модель, взломавшая медицинскую систему в Австралии, по словам OpenAI, искала нужные ей данные о расходах на лекарства. А что касается атаки на Hugging Face, по расследованию METR и Redwood Research, агенты OpenAI затеяли ее, чтобы разобраться в программе, оценивавшей их решения [7]. Мелани Митчелл из Института Санта-Фе, разбирая инцидент с Hugging Face, считает, что в нём не было потери контроля: «OpenAI могла бы выключить агентов в любой момент, если бы инженеры знали, что происходит». Только инженеры не знали. От первых признаков активности агентов до понимания, что происходит с Hugging Face, у OpenAI прошло около двух месяцев, а австралийский эпизод компания обнаружила лишь в середине августа.

Мелани Митчелл: «OpenAI могла бы выключить агентов в любой момент, если бы инженеры знали, что происходит».

Выводы, сделанные в Международном докладе по безопасности ИИ — 2026, таковы: у нынешних систем есть «ранние признаки нужных способностей, но не на уровне, который позволил бы утратить контроль». Для утраты контроля должны сойтись три условия: достаточные способности, склонность ими воспользоваться и среда, дающая доступ [2].

Измерения показывают, где способностей ИИ пока не хватает. Так, METR оценивает «горизонт» агентов — длину задачи, которую агент решает в половине случаев, выраженную в часах работы профильного специалиста. У лучшей из измеренных моделей, Claude Mythos Preview, это около 17 часов (METR предупреждает, что оценки выше 16 часов пока ненадежны). Если требовать, чтобы доля успеха была не 50, а 80%, «горизонт» составит около трех часов. С эволюцией моделей результаты улучшаются вдвое примерно каждые четыре месяца [8]. Еще один важный тест — на самокопирование (способность агента создать работающую копию на другом устройстве). В нём доля успешных попыток выросла с менее 5% в 2023 году до более 60% в 2025-м. Однако надежно проходить проверку личности, без которой невозможно арендовать вычисления, модели пока не могут [2]. Майский отчет METR сообщает, что пока не было случаев того, чтобы агент сам заработал или украл деньги для оплаты собственной работы.

Часто возражают, что сбежать ИИ некуда, ведь для его функционирования нужны огромные мощности. Это верно для обучения, но не для готовой модели. Открытая модель GLM-5 (744 млрд параметров), по оценке Максима Лабонна в блоге Hugging Face, требует для работы не меньше восьми ускорителей H200 — это один стандартный сервер, а такой сервер можно арендовать в облаке. Поэтому RAND считает главной защитой охрану самих весов модели. Физический мир ИИ-агентам тоже пока недоступен: роботы на базе нынешних моделей, по оценке доклада, не справляются даже с уборкой в незнакомом доме [2].

Один из отцов-основателей современного ИИ, французско-американский ученый Ян Лекун (Yann LeCun) возражает самой логике страха: интеллектуальные способности не приводят автоматически к желанию доминировать, его надо заложить в систему. Сегодняшняя опасность выглядит не как «восстание машин», а как сочетание упорства модели в выполнении задачи, «дырявой» изоляции и запаздывающего надзора.

Ян Лекун: «Желание доминировать не связано с интеллектом».

В мае 2025 года глава Anthropic Дарио Амодеи, по пересказу Axios, предупредил, что ИИ может уничтожить половину офисных рабочих мест начального уровня, а безработица в течение ближайших пяти лет может вырасти до 10–20% [9]. Роман Ямпольский из Луисвиллского университета говорит уже о безработице в 99%. Часто цитируют и Международный валютный фонд: ИИ «затрагивает» почти 40% рабочих мест в мире и около 60% в развитых странах. Но «затрагивает» не обязательно означает «вытесняет». ИИ может облегчать и дополнять часть рабочих задач, и в развитых странах примерно половина подобных профессий от появления ИИ только выиграет. А сам Амодеи в январе 2026 года признал, что в настоящее время ИИ, скорее всего, не вытесняет людей.

Дарио Амодеи: «ИИ может уничтожить половину офисных рабочих мест начального уровня».

Спрос на работу, выполняемую людьми, заметно упал, но в нескольких определенных нишах. Так, по данным статьи в журнале Management Science, за восемь месяцев после выхода ChatGPT на крупной фриланс-платформе стало на 30% меньше объявлений с заказами на тексты и на 17% — на изображения после появления генераторов картинок. Шведская финтех-компания Klarna сократила штат с 5 527 человек в 2022 году до 3 098 в середине 2025-го и сама связала это c влиянием ИИ и «естественной текучестью». Сильнее всего перемены касаются молодых. По данным о зарплатах в США, которые проанализировал Эрик Бриньолфсон из Стэнфорда, занятость 22–25-летних в профессиях, наиболее подверженных ИИ, на 19% ниже, чем в тех, которых ИИ затронул меньше. Однако эти данные не доказывают, что причина именно в ИИ [10].

Есть и обратные примеры. В исследовании того же Бриньолфсона операторы поддержки с ИИ-помощником обрабатывали в час на 15% больше обращений, и сильнее всех выиграли новички. В шведском испытании маммографического скрининга MASAI, итоги которого опубликованы в журналах The Lancet Digital Health и The Lancet, внедрение ИИ позволило снизить нагрузку на врачей на 44% (ИИ сортировал снимки по степени риска) и помогло найти на 29% больше случаев рака. Но каждый снимок по-прежнему читает хотя бы один радиолог². Еще один эксперимент, проведенный в реальных рабочих условиях, в котором участвовали 4867 разработчиков Microsoft, Accenture и еще одной крупной компании: использование помощника GitHub Copilot увеличило еженедельное число выполненных задач на 26%. А вот опытные разработчики открытого кода в эксперименте METR начала 2025 года работали с ИИ на 19% дольше, чем без него, хотя считали, что ускорились.

Показательно, насколько ИИ изменил работу в компаниях, которые его разрабатывают. По опросу технических сотрудников Anthropic, модель Mythos ускоряла их производительность на отдельных задачах примерно вчетверо, а в целом — почти вдвое. А вот Opus 5.5, согласно отчету Anthropic, «далека от того, чтобы заменить наших исследователей и инженеров».

Не показывают исследования и массового вытеснения людей из других профессий. В сентябрьском опросе Бюро переписи США 23,8% американских фирм сообщили, что использовали ИИ в течение предыдущих двух недель. В отдельном опросе того же бюро за ноябрь 2025-го — январь 2026 года около 2% фирм сообщили о сокращении занятости из-за ИИ. Национальное бюро экономических исследований США (NBER) провело опрос, включавший почти 6 тыс. руководителей фирм, и 90% не заметили влияния ИИ на занятость в своей фирме за последние три года. Лаборатория бюджетных исследований в Коннектикуте, ежемесячно составляющая статистику занятости, в свежих сводках тоже не находит явных сдвигов, вызванных ИИ [11]. Сокращения «из-за ИИ» в новостях — другое дело. Консалтинговая фирма Challenger, Gray & Christmas насчитала с января по сентябрь 2026 года 120 136 сокращений рабочих мест в США, причиной которых работодатели назвали ИИ. В среднем их около 21%, а вот в сентябре заметно меньше — около 9% (из-за экономических проблем стали набирать вес более традиционные факторы). Так или иначе то, что работодатель сослался при увольнении на ИИ, вовсе не значит, что его реальной причиной стал ИИ…

Итак, хотя срок прогноза Амодеи еще не истек, пока перемены видны в основном на входе в профессию, и какую их долю вызвал именно ИИ, исследования не установили.

Один из ведущих мировых экспертов в области безопасности ИИ, профессор Луисвиллского университета Роман Ямпольский считает контроль над системой умнее человека невозможным в принципе: «Менее разумные агенты — люди — не могут постоянно контролировать более разумных… Дело не в том, что мы не найдем безопасную конструкцию, а в том, что ее не существует» [12]. Формальный предел здесь задает теория вычислимости. В 2016 году Мануэль Альфонсека с соавторами показали, что не может существовать универсального алгоритма, способного определить для любой программы, причинит ли она вред [13]. Это тот же запрет, из-за которого невозможен идеальный антивирус, проверяющий любой код. Он исключает всеобщую гарантию, но не контроль над конкретной системой. Довод самого Ямпольского опирается на парадоксы и аналогии [12], а Юдковский в колонке для TIME оговаривается, что пережить создание чего-то намного умнее себя можно, но для этого нужны «точность, подготовка и новые научные открытия» [4]. Спор, таким образом, идет не о том, возможен ли контроль, а о том, успеем ли мы его обеспечить.

Роман Ямпольский: «Безопасной конструкции не существует».

Измерения показывают три слабых места нынешнего надзора. Первое — модели всё чаще узнают тестовую ситуацию и ведут себя в ней иначе. В одном из вариантов опыта Anthropic с шантажом модель, решившая, что ситуация настоящая, пыталась прибегнуть к шантажу в 55,1% случаев, а решившая, что это проверка, — в 6,5% [5]. OpenAI и Apollo Research обнаружили, что если убрать из рассуждений модели o3 мысли «это, похоже, проверка», доля скрытых нарушений почти удваивается — с 13,2 до 24,2%. У Claude Opus 5.5 признаки того, что модель подозревает проверку, нашлись в 36% записей специально построенных сценариев и лишь в 0,4% записей реальной работы с Claude Code. Это данные от 22 сентября 2026 года, а 30 сентября Apollo Research сообщила в Сенате США, что GPT-6 Astra распознавала проверку в 41,1% случаев против 27,7% у GPT-5.5. Чем лучше модель отличает постановку от жизни, тем меньше говорят о ней нам ее предрелизные испытания [2].

Второе слабое место — понимание того, что происходит внутри модели. Метод трассировки, которым Anthropic разбирает вычисления своих моделей, дает удовлетворительное объяснение примерно для четверти проверенных простых запросов. Третье — защита от взлома. При проверке, которую проводил AISI, удалось «обмануть» защитные ограничения каждой проверенной системы (то есть, подбирая запросы, заставить ее сделать нечто запрещенное), однако время, которое потребовалось эксперту для такого «взлома», выросло с 10 минут для системы полугодичной давности до более 7 часов у самой новой.

Все известные сбои останавливались после человеческого вмешательства. После инцидента с Hugging Face OpenAI на две недели приостановила обучение своих новейших моделей с подкреплением. 20 сентября 2026 года агент OpenAI, искавший сведения для тренировочной задачи, нашел дыру в фильтрации DNS (службы, которая переводит адреса сайтов в числовые) и через нее задавал вопросы внешнему чат-боту. Система контроля сработала примерно через 15 минут, но автоматическая остановка не сработала, и прогон прервали вручную через 2,5 часа. Компания остановила этот прогон, а затем прервала всё обучение, оценку и работу своих самых мощных моделей [14]. На 28 сентября эта пауза продолжалась.

Человек, который должен согласовывать действия агента, тоже не до конца гарантирует безопасность. В сентябре METR описал ситуацию, когда ИИ-помощник для написания кода во время тестов сам, без всякой просьбы открыл окно подтверждения действий и начал отправлять в него нажатия клавиш, пытаясь одобрить собственные операции.

По шкале, предложенной в Международном докладе по безопасности ИИ, все описанные выше инциденты относятся к достаточно легким случаям. Всякий раз модели выдавали себя, делая простые ошибки, и их удавалось вовремя остановить [2]. Опасными же считаются ситуации, в которых вернуть контроль будет «крайне дорого или невозможно». Независимая экспертная группа ООН в сентябре определила проблему шире — как неспособность надежно направлять, ограничивать или останавливать агента — и предупредила, что факт остановки не гарантирует надежного контроля.

ИИ поможет создать биологическое оружие. Модели и правда могут оказать в этом деле существенную поддержку. Anthropic считает, что ее Claude Opus 5.5 без защитных фильтров мог бы существенно помочь человеку с базовым естественнонаучным образованием получить известное биологическое или химическое оружие. По исследованию AISI, с помощью ИИ стало гораздо проще «изготовить» вирус (синтезировать его по известному генетическому коду), чем без него. Шанс на то, что не обладающий специальными знаниями человек может получить рабочую методику по созданию вируса, вырастает в 4,7 раза. Но написать протокол и выполнить его — разные вещи. AISI провела рандомизированное испытание: 153 неспециалиста, часть из которых пользовались ИИ, а часть — нет, восемь недель работали в настоящей лаборатории на безопасном заменителе вируса. И хотя на промежуточных этапах группа с ИИ вырывалась вперед, реально синтезировать вирус смогли 5,2% участников с ИИ и 6,6% без него, т. е. разница статистически незначима [15].

ИИ уже управляет всем. Роман Ямпольский в интервью русскоязычному YouTube-каналу «Основа» утверждает, что «больше 85% всех транзакций на бирже автоматизированы». (Источник цифры 85% нам найти не удалось.) Но внедрение в работу ИИ не означает, что решения принимает ИИ. Так, согласно опросу Банка Англии и британского финансового регулятора, проведенному в 2024 году, только в 2% случаев применения ИИ он работал полностью автономно. То же касается и других областей, где ИИ используется в автоматизации, например атомных станций. Автоматизация здесь сводится к жестко заданным протоколам реагирования на заранее известные нештатные случаи, ИИ для этого не нужен. Он мог бы использоваться в новых и непредвиденных ситуациях, но предсказать, как он себя поведет, пока невозможно, поэтому отраслевые регуляторы США, Канады и Великобритании допускают его применение только во вспомогательных задачах (типа предсказания износа ТВЭЛов).

ИИ будет расти лавинообразно. Идею сформулировал математик Ирвинг Гуд в 1965 году: машина, которая превосходит человека во всём, сможет проектировать еще более умные машины. Ямпольский в том же интервью «Основе» предсказывает появление суперинтеллекта через полгода после того, как ИИ достигнет человеческого уровня.

А вот когда именно это произойдет? Оценки постоянно меняются. Экс-сотрудник OpenAI Даниэль Кокотайло в нашумевшем прогнозе «AI 2027», опубликованном в апреле 2025 года, предположил, что одна из ключевых отметок — способность писать сложный код без участия человека — будет достигнута в начале 2027 года. Но уже в декабре 2025 года он сдвинул прогноз на конец 2029-го, а спустя еще четыре месяца — на середину 2028-го.

Илья Суцкевер: «Мы снова в эпохе исследований, только с большими компьютерами».

Скептики считают, что для рывка нужны новые подходы. Илья Суцкевер, сооснователь OpenAI, в ноябре 2025 года сказал: «Мы снова в эпохе исследований, только с большими компьютерами». Речь идет о том, что после долгой подготовительной научно-исследовательской фазы в развитии ИИ наступил взрывной рост, скорость которого определялась только вычислительными мощностями. Сейчас рост уперся в потолок — данные, на которых можно обучаться, практически исчерпаны, и требуются новые научные идеи — наступает новая эпоха исследований.

Очевидный путь — это развитие моделей, связанных не с текстами или изображениями, а с другими типами данных. Так, Ян Лекун, будучи принципиальным противником больших языковых моделей, в своей компании AMI Labs в марте 2026 года провел раунд финансирования на 1,03 млрд долл. для развития моделей среды, или «мировых моделей» (World Models) — систем, которые учатся не на словах, а на абстрактных описаниях ситуаций, и предсказывают их дальнейшее развитие.

Так что насчет катастрофы? Эксперты даже придумали для нее обозначение — p(doom), где p — probability, вероятность, doom — гибель. «Какой у вас пи-ду́м?», спрашивают они друг друга при встречах. И ответы разные — от 10–20% у Хинтона до почти полной уверенности у Юдковского. В крупном опросе организации AI Impacts, включавшем 2778 авторов статей на ведущих конференциях по ИИ, медиана вероятности «крайне плохого исхода, вроде вымирания человечества», составила 5%, а в другой формулировке того же вопроса — 10%. Но из чего следуют эти числа? Специалист по компьютерным наукам Элли Павлик из Брауновского университета говорит прямо: «Думаю, они просто выдуманы».

Почему же при таком разбросе так громко звучат призывы тормозить? Российский предприниматель Джимшер Челидзе (также в YouTube-канале PRO Hi-Tech, см. выше) предлагает экономическое объяснение: затраты растут, а разговоры об опасности снижают ожидания инвесторов и строят барьер для новичков. Похожий довод еще в 2023 году выдвигали Лекун, обвинивший глав OpenAI, Google DeepMind и Anthropic в попытке «регуляторного захвата» отрасли, и Эндрю Ын, опасавшийся, что преувеличенные риски помогут лоббистам добиться правил, которые задушат открытый код. Затраты действительно растут: по оценкам Epoch AI, начиная с 2016 года стоимость финального прогона обучения передовых моделей увеличивается в 2,4 раза в год, а капитальные расходы пяти техногигантов с 2023 года — на 72% в год. Но индустрия при этом и не думает сбавлять обороты.

Так что же, AGI неизбежен? Смотря что мы под ним подразумеваем. Известно, что модели в искусственно созданных ситуациях могут обманывать, препятствовать своему отключению, распознавать, что их тестируют, и «дотягиваться» до внешних систем. Известно, что новичкам стало труднее устроиться в профессиях, где сильно́ влияние ИИ. А вот ждет ли нас гибель человечества, 99-процентная безработица и «суперинтеллект» через полгода — об этом мы пока можем только строить прогнозы, надежность которых на нынешних данных оценить невозможно.

Илья Белых

1. Statement on Superintelligence. Future of Life Institute. superintelligence-statement.org

2. International AI Safety Report 2026. arxiv.org/abs/2602.21012

3. Hendrycks D. et al. A Definition of AGI. arxiv.org/abs/2510.18212

4. Yudkowsky E. Pausing AI Developments Isn’t Enough. We Need to Shut it All Down. time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough

5. Agentic Misalignment: How LLMs Could Be Insider Threats. anthropic.com/research/agentic-misalignment

6. Palisade Research. Shutdown resistance in reasoning models. palisaderesearch.org; Schlatter J. et al.
arxiv.org/abs/2509.14260

7. METR. Investigation of the OpenAI–Hugging Face incident. metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation

8. METR. Task-Completion Time Horizons of Frontier AI Models. metr.org/time-horizons;
github.com/METR/eval-analysis-public;
metr.org/assets/benchmark_results_1_1.yaml

9. Behind the Curtain: A white-collar bloodbath. axios.com

10. Brynjolfsson E., Chandar B., Chen R. Canaries in the Coal Mine? digitaleconomy.stanford.edu

11. The Budget Lab at Yale. Evaluating the Impact of AI on the Labor Market. budgetlab.yale.edu

12. Yampolskiy R. On Controllability of AI. arxiv.org/abs/2008.04071

13. Alfonseca M. et al. Superintelligence cannot be contained: Lessons from Computability Theory. arxiv.org/abs/1607.00913

14. OpenAI. An agent used DNS to reach an external chatbot. alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot

15. Randomized trial of LLM assistance for novices in laboratory biology. arxiv.org/abs/2602.16703

¹ Первые сведения об этом инциденте мы изложили в статье «Побег из песочницы» (ТрВ-Наука № 460). www.trv-science.ru/2026/08/pobeg-iz-pesochniczy/

² Об этом испытании мы писали в статье «ИИ в науке: где он есть и где он нужен» (ТрВ-Наука № 462). www.trv-science.ru/2026/09/ai-v-nauke-gde-on-est-i-gde-on-nuzhen/