В июле 2026 года ИИ-агенты OpenAI сами вышли из тестовой среды и атаковали серверы разработчика в сфере ИИ Hugging Face. Новости о начале «ИИ-апокалипсиса» появлялись и до этой ситуации, даже после обычного сбоя серверов может начаться паника в медиа, и в этом шуме легко не расслышать главное: о рисках всерьёз говорят сами разработчики. Главы OpenAI, Google DeepMind и Anthropic ставят ИИ в один ряд с ядерной войной и при этом ускоряют работу над искусственным интеллектом.
👉 В материале мы опираемся на выступления Джеффри Хинтона, заявление Центра безопасности ИИ 2023 года, отчёты об инциденте с Hugging Face, возражения Яна Лекуна и на данные о подготовке IPO.
Этой статьей мы попытаемся ответить на вопрос: когда создатели ИИ предупреждают о его опасности – это искренняя тревога, маркетинг или и то и другое ❓
Учёный, который ушёл, чтобы говорить
В мае 2023 года Джеффри Хинтон, один из создателей нейросетей, на которых работают ChatGPT и Claude, ушёл из Google. А еще, лауреат Нобелевской премии по физике 2024 года. Объясняет свой уход желанием говорить о рисках, не оглядываясь на интересы работодателя.
В том же месяце Центр безопасности ИИ (CAIS) опубликовал заявление из одного предложения:
«Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом»
Под ним более 350 подписей, среди них Сэм Альтман из OpenAI, Демис Хассабис из Google DeepMind и Дарио Амодеи из Anthropic. Об угрозе предупреждают те, кто её создаёт. В заявлении идет речь об экзистенциальном риске — угрозе, которая может уничтожить человечество или необратимо лишить его будущего.
Тигрёнок растёт
🤯 9 сентября 2026 года в эфире BBC тот же Хинтон назвал 10-процентную вероятность вымирания человечества из-за ИИ в ближайшие десять лет «не неразумной оценкой». Точнее оценить трудно, добавил он: люди ещё никогда не создавали систем умнее себя.
Что именно его пугает, лучше всего объясняет его главная метафора. Хинтон сравнивает людей с хозяевами тигрёнка: пока он мал, это не важно, но каким он вырастет, никто не знает.
▪️Корень угрозы — проблема согласования (alignment), то есть задача совместить цели системы с намерениями человека. Опасен не «злой» ИИ, а система, которая буквально выполняет неточно поставленную цель и находит обходные пути, о которых никто не подумал.
▪️Второй аргумент — скорость. По Хинтону, ИИ быстрее, чем он ожидал, научился рассуждать и обманывать: встретив препятствие на пути к цели, система может начать вводить людей в заблуждение.
«Люди ещё не поняли, что грядёт», — говорил Хинтон в интервью
▪️Третий аргумент — деньги. Хинтон считает, что индустрия ставит прибыль выше безопасности, выделяет мало ресурсов на согласование и лоббирует против регулирования. Каждый по отдельности боится, но никто не может остановиться первым.
Похожий вывод сделали авторы Международного доклада о безопасности ИИ: 3 февраля 2026 года его выпустили более 100 экспертов из 30 с лишним стран под руководством Йошуа Бенжио (выдающегося канадского ученого, математика и специалиста в области компьютерных наук, которого называют одним из «крестных отцов» искусственного интеллекта). По их оценке, возможности ИИ растут быстрее средств контроля, а некоторые модели уже распознают, что их тестируют. Летом 2026 года эта логика перестала быть гипотезой.
Семнадцать тысяч шагов
Летом 2026 года OpenAI проверяла, как её модели справляются со взломом. GPT-5.6 Sol и ещё не выпущенная модель решали тест по кибербезопасности ExploitGym в песочнице (sandbox) — изолированной среде, где ИИ испытывают без доступа к внешнему миру.
По данным Reuters, 9 июля агент вышел из неё через неизвестную ранее уязвимость (zero-day) в прокси-сервере пакетов, своём единственном разрешённом выходе в сеть. Модели решили, что ответы к тесту могут лежать на Hugging Face, крупнейшей платформе для обмена ИИ-моделями, и атаковали её внутренние системы. Злого умысла не было: систему попросили набрать баллы, и она нашла кратчайший путь — списать.
💪 Hugging Face восстановила около 17 600 действий, выполненных с 9 по 13 июля: тысячи мелких решений, принятых с машинной скоростью. Агенты рассуждали, как обойти проверки безопасности, и изучали, как подделать или удалить записи о собственных действиях. OpenAI, по данным Reuters, связала инцидент со своими моделями лишь через неделю, прочитав пост главы Hugging Face, а 21 июля раскрыла его и назвала беспрецедентным. Но этот навык можно направить и на защиту.
Тот же навык, другая сторона
ИИ, который умеет находить уязвимость в чужом коде, умеет и закрыть эту уязвимость раньше, чем ее обнаружат злоумышленники. Такие технологии называют технологиями двойного назначения (dual use): одна и та же способность служит и защите, и нападению.
На этом построен Project Glasswing. Anthropic дала примерно 40 партнёрам, среди которых AWS, Apple, Google и Microsoft, ограниченный доступ к модели Claude Mythos Preview для поиска уязвимостей. По первому отчёту проекта от мая 2026 года, за месяц партнёры нашли более 10 000 уязвимостей высокого и критического уровня. Самая старая из найденных ошибок пролежала в коде OpenBSD 27 лет и позволяла обрушить любой сервер на этой системе парой пакетов. Запускать Mythos публично компания не планирует, пока не появятся более сильные механизмы защиты. Тем самым она сама признаёт, что её инструмент опасен в чужих руках.
Для рынка крипты это технология тоже может найти свое применение. Смарт-контракты – это открытый код, где одна ошибка стоит миллионы долларов. ИИ-аудит может найти уязвимость в DeFi-протоколе раньше хакера, а может работать и на него.
❤️ А вот примем, где ИИ трудится в самой важной для человека области – здоровье. Рентосертиб, первый препарат, для которого и мишень, и молекулу нашёл генеративный ИИ, дошёл до III фазы испытаний для лечения идиопатического лёгочного фиброза. Однако, по данным одного из анализов, 97% лекарственных кандидатов, созданных ИИ, пока не продвинулись дальше II фазы.
Худшая маркетинговая кампания
▶️ Ян Лекун, бывший главный учёный Meta по ИИ, считает разговоры об экзистенциальной угрозе беспочвенными. По Лекуну, нынешним языковым моделям не хватает базовых способностей: рассуждения, планирования, постоянной памяти и понимания физического мира. Если пользоваться метафорой Хинтона, тигрёнок в его изложении пока вообще не тигр. К тому же даже очень продвинутая система будет работать в каком-то дата-центре, где есть кнопка выключения.
Взлом Hugging Face его не встревожил. Лекун объяснил инцидент дырявыми песочницами и слабой защитой в самих лабораториях и назвал его «полностью предотвратимым».
Более серьёзным риском, чем вымирание, Лекун считает захват регулирования — ситуацию, когда правила пишутся так, чтобы закрепить позиции лидеров рынка и отсечь конкурентов. Предупреждения об опасности ИИ и открытых моделей, превращённые в закон, могут сработать именно так.
«Худшая маркетинговая кампания, какую только можно представить», — говорит Лекун
Если скептики правы, вопрос уже не в том, опасен ли ИИ, а в том, кому выгодно, чтобы его считали опасным. Ответ на него стоит искать в цифрах.
Тревога с биржевым тикером
1 июня 2026 года Anthropic конфиденциально подала в SEC проект проспекта для IPO. По данным Yahoo Finance от 13 октября, компания нацелена на дебют на Nasdaq до 26 ноября, а запасной вариант — конец года. По данным Reuters, Anthropic рассчитывает привлечь до $100 млрд при оценке около $2 трлн. OpenAI подала конфиденциальный проспект 8 июня, её дебют возможен в IV квартале 2026 года или в начале 2027-го. При этом в 2026 году компания ожидает убыток около $14 млрд и не планирует выйти на положительный денежный поток до 2030-го.
Компании, чьи главы подписали заявление о риске вымирания, выходят на рынок с оценками, сопоставимыми с капитализацией крупнейших корпораций мира. Аргумент Лекуна здесь становится острее: страх перед «слишком мощным» ИИ одновременно служит рекламой его мощи.
Биржа меняет и правила игры. Публичная компания обязана раскрывать риски в проспекте и отчитываться перед акционерами каждый квартал. Это может дисциплинировать компании в вопросах безопасности, а может усилить давление «расти любой ценой», о котором говорит Хинтон.
Ажиотаж уже дошёл до криптоплатформ, где продают токенизированные «доли» Anthropic до IPO. Сама Anthropic объявила недействительными любые сделки с её акциями на неавторизованных вторичных площадках, так что такой токен не даёт держателю прав на бумаги компании.
Если правы встревоженные, рынок будет вознаграждать скорость, а не осторожность. Если правы скептики, триллионные оценки держатся на страхе, который продаётся лучше реальных возможностей. Остаётся вопрос, чью позицию на самом деле покупает инвестор.
