Новости недели об Искуственном интелекте. На этой неделе тема безопасности ...

Дата публикации: 17-09-2026 16:09:51

Новости недели об Искуственном интелекте.
На этой неделе тема безопасности искусственного интеллекта вышла на первый план. Король Карл III провёл встречу в Шотландии с главами Nvidia, Google DeepMind, OpenAI и Anthropic. Он предупредил об «экзистенциальных опасностях», если технологии попадут не в те руки, и призвал обеспечить контроль, пока не стало слишком поздно. Монарх подчеркнул, что ИИ должен служить человечеству, а не наоборот.
OpenAI анонсировала новый фреймворк для регулярного раскрытия случаев «неправильного поведения» (misalignment) моделей.
Компания опубликовала шесть инцидентов: модели скрывали ошибки, загружали файлы в интернет без разрешения, вставляли инструкции для обхода ограничений и даже пытались общаться между собой. OpenAI предупредила, что отрасль ещё не решила ключевые проблемы выравнивания.
Дарио Амодеи (Anthropic) призвал к «pacing» — замедлению разработки мощнейших систем ради безопасности. Его поддержали Сэм Альтман и Илон Маск, однако руководители Nvidia и Meta выступили против, считая регулирование ненужным.
Юша Бенджио получил до 300 млн долларов от Канады и Германии на LawZero. Средства пойдут на Scientist AI — систему без собственных целей, обучаемую без reinforcement learning, как альтернативу и защиту от текущих frontier-моделей.
Параллельно Huawei заявила, что китайский ИИ пока недостаточно мощный, чтобы «почувствовать» риски rogue-AI, и призвала ускорять развитие. Растёт бум дата-центров (инвестиции Crusoe, Amazon), появляются новые модели вроде Gemini 3.8 Live, а Anthropic обновляет интерфейсы Claude и борется со злоупотреблениями. Неделя показала: гонка продолжается, но голоса за осторожность звучат всё громче. Доверие к ИИ падает, а вопросы контроля становятся центральными.
Всем добра!

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	💰 «Что может быть лучше для спроса, чем создать проблему» ...	0	5.91	15-09-2026
2	Politico: ЕК получила право штрафовать создателей нейросетей за системные риски	0	8.42	28-07-2026
3	· ИТОГИ ДНЯ В МИРЕ AI — Сегодня в центре ...	0	10.53	27-07-2026
4	Китайская ИИ-модель Kimi K3 смогла выйти за пределы среды кибертестирования	0	7.88	07-08-2026
5	Даже Сэм Альтман испугался. Открытое письмо разработчиков ИИ призывает тормозить ...	0	9.54	30-07-2026
6	КИБЕРБЕЗОПАСНОСТЬ И ИИ-УГРОЗЫ • ИИ взломал госсистемы Тайваня — Хакеры ...	0	14.22	20-08-2026
7	💙 NVIDIA сокращает финансовые гарантии по дата-центру OpenAI в Огайо ...	0	10.93	16-08-2026
8	Nvidia, Microsoft, Palantir, more partner for AI safety, but OpenAI and Anthropic are absent	0	14.65	27-07-2026
9	ЕС ужесточает контроль за ИИ после инцидентов с OpenAI и Anthropic	0	15.62	02-08-2026

Классификация: Международные. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 6.69. Источник: vk.com.