Искусственный интеллект оказался в центре дискуссии Совета Безопасности ООН. Руководители ведущих ИИ-компаний предупредили о рисках слишком быстрого развития технологии и призвали правительства разных стран совместно вырабатывать правила ее применения. Одновременно администрация президента США Дональда Трампа выступает против мер, которые могли бы затормозить развитие американской ИИ-индустрии, передает inbusiness.kz со ссылкой на DW.
Заседание Совета Безопасности прошло в Нью-Йорке в рамках 81-й сессии Генеральной Ассамблеи ООН. Участники обсуждали влияние передовых ИИ-систем на международную безопасность, а также риски, связанные с их дальнейшим развитием и распространением. ООН отдельно отмечает, что подобные риски могут выходить за национальные границы и не могут быть эффективно решены одной страной.
Генеральный директор OpenAI Сэм Альтман заявил, что решения, определяющие будущее искусственного интеллекта, не должны приниматься исключительно отдельными технологическими компаниями.
"В данный момент требуется крайняя осторожность", — заявил Альтман, выступая перед Советом Безопасности.
По его словам, ИИ-системы могут развиваться быстрее, чем государственные и международные институты успевают адаптироваться к происходящим изменениям. Другой риск, который он обозначил, связан с возможной концентрацией влияния на технологию в руках слишком узкого круга компаний или людей.
Альтман призвал правительства сотрудничать друг с другом и с представителями технологической отрасли при принятии решений, которые будут определять дальнейшее развитие ИИ. Reuters отмечает, что OpenAI ранее также выступила за международные технические стандарты для передовых ИИ-систем и согласованные механизмы реагирования на инциденты.
При этом глава OpenAI не призывал полностью остановить технологическое развитие. Речь, по его словам, идет о том, чтобы темпы развития сопровождались соответствующими механизмами безопасности.
Похожую позицию занял генеральный директор Anthropic Дарио Амодеи. Он заявил о необходимости более строгих стандартов безопасности и подчеркнул, что компания готова замедлять развитие своих систем настолько, насколько это потребуется для обеспечения их безопасности.
"Я даже считаю, что при ненадлежащем управлении ИИ может представлять угрозу для всего человечества", — заявил Амодеи.
Еще одним участником обсуждения стал генеральный директор Hugging Face Клемент Деланж. Он рассказал о применении ИИ для противодействия кибератакам и выступил за развитие технологий с открытым исходным кодом. По его мнению, доступность таких систем может стать одним из элементов защиты от новых технологических угроз.
Тема безопасности получила дополнительную актуальность после сообщений о случаях, когда автономные ИИ-агенты получали доступ к компьютерным системам. ООН в отдельном научном обзоре за сентябрь 2026 года рассматривает инцидент с участием агентов OpenAI и Hugging Face как один из примеров возможной потери человеческого контроля над способными автономными системами. При этом эксперты ООН подчеркивают, что имеющиеся данные не позволяют оценить вероятность или сроки возникновения наиболее серьезных сценариев.
На этом фоне позиция американской администрации заметно отличается от призывов части технологического сообщества. 19 сентября Дональд Трамп объявил о создании так называемой "AI Force" — специальной структуры, которая должна заниматься вопросами развития искусственного интеллекта. Одновременно президент США заявил, что не намерен препятствовать развитию отрасли.
Трамп также связывает развитие ИИ с экономической и технологической конкуренцией США с Китаем. Его администрация выступает против подходов, которые, по ее мнению, способны замедлить американские разработки и дать конкурентам преимущество.
Таким образом, обсуждение в Совбезе ООН показало существование сразу нескольких подходов к будущему ИИ. Технологические компании говорят о необходимости международных правил, общих стандартов безопасности и координации государств, тогда как Вашингтон делает акцент на сохранении высоких темпов развития отрасли.
Вопрос о том, как совместить технологический прогресс с безопасностью, теперь рассматривается не только как задача отдельных компаний или национальных регуляторов, но и как часть международной повестки. Для ООН это означает переход дискуссии об искусственном интеллекте к более широкому вопросу о глобальных правилах обращения с наиболее мощными технологиями.
Читайте по теме:
Кыргызстан выступил за монополию ООН на международные санкции
