Искусственный интеллект перестает быть просто технологией и превращается в фактор глобальной безопасности. В США все громче звучат опасения: развитие ИИ вышло на уровень, при котором ошибки или злоупотребления могут иметь последствия для целых стран, передает inbusiness.kz со ссылкой на The Economist.
По данным издания, сегодня развитие ИИ, фактически, сосредоточено в руках нескольких фигур — Дарио Амодеи, Демиса Хассабиса, Илона Маска, Марка Цукерберга и Сэма Альтмана. Их технологии уже обладают почти "божественными" возможностями и продолжают стремительно развиваться.
"Но что изменилось? До недавнего времени США придерживались принципа невмешательства: рынок сам определяет лидеров в гонке ИИ, особенно в конкуренции с Китаем. Однако теперь ситуация меняется. Возможности ИИ начали вызывать тревогу не только у экспертов, но и у властей", - пишут аналитики The Economist.
Переломным моментом стала новая модель Claude Mythos от Anthropic. Она оказалась настолько мощной в поиске уязвимостей, что в теории способна угрожать банкам, больницам и другой критической инфраструктуре.
"В неправильных руках это уже не просто технология, а потенциальный инструмент атаки. В результате доступ к ней был ограничен — его получили лишь около 50 компаний", - отметили эксперты.
Сейчас формируется новая реальность. Доступ к самым мощным моделям начинают ограничивать, государство рассматривает механизмы контроля и сертификации ИИ, а общественные настроения становятся всё более тревожными. По оценкам, около 70% американцев считают, что ИИ ухудшит ситуацию с занятостью.
"ИИ всё чаще становится политической темой, способной повлиять на будущие выборы. Власти оказываются перед сложной дилеммой: позволить технологиям развиваться свободно, рискуя столкнуться с хаосом и злоупотреблениями, или ввести жёсткое регулирование и при этом уступить в технологической гонке", задались еще одной проблемой аналитики международного агентства.
Однако существует и более глубокая проблема. Если доступ к самым мощным системам ИИ получит ограниченный круг игроков, мир может разделиться на тех, кто усиливается за счет технологий, и тех, кто остается уязвимым. Это создает риск новой формы неравенства — технологической.
Эксперты подчеркивают, что контроль над ИИ невозможно обеспечить в рамках одной страны. Без международного сотрудничества, включая взаимодействие с Китаем, любые ограничения будут частичными и неэффективными.
Таким образом, искусственный интеллект становится не только драйвером экономического роста, но и ключевым фактором глобального баланса сил. Вопрос уже не в том, будет ли развиваться ИИ, а в том, кто и на каких условиях будет им управлять.
Читайте по теме:
Как Казахстан контролирует использование искусственного интеллекта
