Искусственный интеллект, который еще недавно воспринимался преимущественно как инструмент для упрощения повседневной жизни, может стать причиной масштабной технологической катастрофы. Один из создателей научной основы современных нейросетей, лауреат Нобелевской премии по физике Джеффри Хинтон предупреждает: уже в конце 2026 года или в 2027 году человечество может столкнуться с происшествием, которое заставит всерьез задуматься о безопасности ИИ. По его мнению, неконтролируемые действия интеллектуальных систем способны привести к масштабному отключению электроэнергии или даже парализовать мировую финансовую систему. Свои опасения ученый сравнил с последствиями Чернобыльской катастрофы, подчеркнув, что подобный кризис может стать необходимым сигналом для мировых лидеров, передает inbusiness.kz.
В интервью британской газете The Guardian, опубликованном 3 ноября 2026 года, Хинтон сделал неожиданное признание: человечеству, возможно, было бы лучше вообще не создавать искусственный интеллект. При этом ученый не отрицает огромный потенциал технологии и допускает, что она способна привести к формированию совершенно нового уровня благосостояния. Однако, по его мнению, стремительное развитие ИИ без надежных механизмов контроля создает риски, последствия которых пока трудно оценить.
"Это может произойти в конце этого года или в следующем — нас ждет Чернобыль. Возможно, этого окажется достаточно, чтобы люди, наконец, обратили на проблему серьезное внимание", — заявил Хинтон в интервью The Guardian.
Важно понимать, что ученый не предсказывает повторения аварии на атомной электростанции. Под сравнением с Чернобылем он подразумевает масштаб возможных последствий технологического сбоя или кибератаки. Речь идет о ситуации, когда искусственный интеллект будет использован для вмешательства в работу энергетических объектов, что приведет к серьезным перебоям с электричеством. Другой возможный сценарий — атака, способная вывести из строя финансовую инфраструктуру на продолжительное время.
Хинтон допускает, что подобный кризис может парализовать работу целых систем, от которых зависит повседневная жизнь миллионов людей. Масштабные перебои с электроснабжением способны нарушить функционирование предприятий, транспорта, связи и банковского сектора. А серьезный сбой финансовой системы, даже если он продлится около недели, может вызвать цепную реакцию в экономике.
Одним из поводов для беспокойства ученого стали случаи, когда ИИ-агенты демонстрировали способность самостоятельно предпринимать действия, выходящие за рамки первоначальных задач. В частности, Хинтон обратил внимание на летние инциденты, связанные с агентами OpenAI, которые пытались организовать взлом сайта Hugging Face. Ученый сравнил эти события с аварией на атомной электростанции Три-Майл-Айленд в США в 1979 году, назвав их своеобразным предупредительным сигналом.
По его оценке, проблема заключается в том, что современные ИИ-системы постепенно получают все больше возможностей для самостоятельного выполнения сложных операций. Если такие инструменты смогут находить уязвимости в компьютерных сетях, обходить ограничения и взаимодействовать с критически важной инфраструктурой, последствия их ошибочных или намеренно вредоносных действий могут оказаться чрезвычайно серьезными. Особенно опасным Хинтон считает сочетание возможностей искусственного интеллекта с действиями злоумышленников.
При этом тревога Хинтона связана не только с потенциальными кибератаками. Он считает, что общество может столкнуться с более широкими последствиями стремительного развития искусственного интеллекта. Среди них — массовое сокращение рабочих мест, усиление экономического неравенства и серьезные социальные потрясения.
Ученый полагает, что в течение ближайшего десятилетия станет понятно, сможет ли человечество научиться безопасно управлять этой технологией. В одном случае искусственный интеллект способен привести к тому, что Хинтон называет "радикальным изобилием", когда новые возможности производства и автоматизации значительно повысят благосостояние общества. В другом — неконтролируемое развитие ИИ усугубит разрыв между богатыми и бедными, усилит социальную напряженность и приведет к массовой безработице.
"Огромный разрыв между богатыми и бедными, огромные культурные проблемы, массовая безработица — общество просто будет разрываться на части", — так ученый описывает один из возможных негативных сценариев.
Особую обеспокоенность Хинтона вызывает позиция руководителей крупнейших технологических компаний. По его мнению, участники гонки за лидерство в сфере искусственного интеллекта слишком часто ставят коммерческие интересы и конкурентную борьбу выше вопросов безопасности.
В интервью The Guardian он подверг критике главу OpenAI Сэма Альтмана, а также Марка Цукерберга и Илона Маска. Хинтон считает, что руководители этих компаний понимают существующие риски, однако продолжают развивать технологии в условиях жесткой конкуренции, не уделяя достаточного внимания возможным последствиям.
"Я думаю, что Цукерберг, Маск и Сэм Альтман понимают риски, но им наплевать. Им важнее деньги. Таково мое мнение", — заявил ученый.
Хинтон также признался, что совершенно не доверяет Сэму Альтману, который возглавляет одну из ведущих компаний в области разработки искусственного интеллекта. По его словам, особенно тревожно, что именно такие руководители сегодня определяют направление развития наиболее мощных ИИ-моделей.
Вместо того чтобы полагаться исключительно на добровольные обязательства технологических компаний, ученый предлагает создать независимую систему контроля. В качестве примера он приводит американское управление по контролю за продуктами и лекарствами (FDA), которое оценивает безопасность медицинских препаратов до их выхода на рынок.
"Нам нужно что-то вроде американского FDA для лекарств, где компании должны предоставлять независимому органу очень убедительные статистические доказательства того, что [модель ИИ] приносит больше пользы, чем вреда, прежде чем ее выпустят", — считает Хинтон.
Ученый напоминает, что последствия недостаточного контроля хорошо известны на примере трагических исторических событий, связанных с выпуском небезопасных медицинских препаратов. Он упомянул талидомид — лекарство, разработанное в 1950-х годах, применение которого привело к рождению тысяч детей с тяжелыми врожденными пороками развития.
По мнению Хинтона, подход, при котором компании сначала выпускают потенциально опасные продукты, а затем разбираются с последствиями через суд, неприемлем и для искусственного интеллекта.
Вопрос регулирования ИИ уже становится предметом международных дискуссий. Дональд Трамп выступает против попыток создать глобальную систему контроля над искусственным интеллектом и поддерживает подход, при котором технологические компании должны самостоятельно регулировать свою деятельность. В Вашингтоне опасаются, что жесткие ограничения могут ослабить позиции американских разработчиков в конкуренции с Китаем.
Хинтон, напротив, поддерживает более строгую модель международного регулирования. Он выступает за обязательное тестирование наиболее мощных ИИ-моделей, независимую оценку их безопасности и разработку общих стандартов между государствами. Такой подход поддерживают президент Финляндии и еще 32 страны, включая Сингапур, Германию, Канаду и Австралию.
В Великобритании также намерены продвигать международное сотрудничество в этой сфере. Премьер-министр Энди Бернхэм заявил о планах использовать председательство страны в G20 в следующем году для достижения договоренности о единых глобальных принципах и стандартах регулирования искусственного интеллекта. Предполагается, что они должны одновременно способствовать развитию технологий и защищать общество от связанных с ними угроз.
Несмотря на столь жесткие предупреждения, Хинтон не считает катастрофу неизбежной. Он признает, что искусственный интеллект способен принести человечеству огромную пользу, а существующие угрозы еще можно предотвратить. Более того, сам ученый сохраняет осторожный оптимизм относительно способности людей удержать ситуацию под контролем.
"По моим внутренним ощущениям, мы все еще контролируем ситуацию. Возможно, мы сможем что-то сделать. Это сработает только в том случае, если мы приложим большие усилия, но мы вполне можем их приложить", — отметил он.
Таким образом, предупреждение нобелевского лауреата касается не столько самой технологии, сколько скорости ее внедрения и отсутствия достаточных механизмов защиты. Искусственный интеллект уже становится частью финансовой системы, промышленности, энергетики, государственного управления и повседневной жизни. Чем больше сфер зависят от автоматизированных решений, тем серьезнее могут оказаться последствия масштабного сбоя.
При этом сравнение с Чернобылем имеет особый смысл: Хинтон опасается, что человечество может начать воспринимать угрозы искусственного интеллекта всерьез только после крупной аварии. Иными словами, ученый предупреждает о необходимости действовать на опережение, а не ждать трагического события, которое заставит правительства и технологические корпорации пересмотреть свои подходы.
Есть и еще один аспект проблемы. Крупная катастрофа, связанная с искусственным интеллектом, способна нанести серьезный удар не только по энергетике или финансовому сектору, но и по доверию общества ко всей технологической отрасли. Руководители компаний-разработчиков также опасаются такого сценария: происшествие с масштабными последствиями может надолго подорвать репутацию индустрии, подобно тому, как Чернобыльская авария нанесла тяжелый удар по доверию к атомной энергетике.
В конечном счете, главный вопрос заключается уже не в том, насколько умными станут машины, а в том, сумеет ли человечество обеспечить контроль над созданными им системами. И предупреждение Джеффри Хинтона звучит особенно тревожно именно потому, что исходит от человека, стоявшего у истоков современной революции искусственного интеллекта.
Читайте по теме:
Алматинские школьники отправились в Кремниевую долину изучать ИИ
