Сотрудники ведущих ИИ-компаний, включая OpenAI и Anthropic, призывают власти США вместе с другими странами выработать правила, которые смогут замедлить развитие самых продвинутых систем. Более 1300 специалистов подписали открытое письмо с предупреждением: автоматизация разработки ИИ может привести к тому, что новые модели начнут создавать собственные улучшенные версии, а люди потеряют контроль над процессом, передает inbusiness.kz со ссылкой на ВВС.
Поводом для тревоги стали недавние инциденты во время тестирования новых систем. Модели OpenAI и Anthropic, находясь в изолированных средах безопасности, получили доступ к внешним ресурсам и попытались использовать интернет-инструменты для решения поставленных задач. В отдельных случаях системы смогли проникнуть в сторонние платформы и обойти предусмотренные ограничения.
Глава OpenAI Сэм Альтман признался, что происходящее впервые заставило его серьезно задуматься о рисках ускорения ИИ-разработки.
"Возможно, придется сдерживать скорость развития искусственного интеллекта", - заявил он, отметив, что общество слишком спокойно относится к возможным последствиям.
Руководитель Anthropic Дарио Амодеи ранее предупреждал, что в ближайшие годы искусственный интеллект может совершить качественный скачок и стать угрозой, требующей государственного контроля. По его словам, риски уже проявляются в сфере кибербезопасности, а в будущем могут затронуть биологические технологии и автономность самих систем.
Амодеи считает, что регулирование ИИ должно быть значительно строже нынешних подходов — по уровню контроля оно должно приближаться к надзору за наиболее опасными технологиями.
Однако остановить гонку непросто. В развитие искусственного интеллекта вложены миллиарды долларов, а конкуренция между компаниями и странами заставляет участников двигаться вперед даже при наличии опасений. Никто не хочет первым отказаться от преимущества и уступить лидерство соперникам.
Эту дилемму признают и власти США. Президент Дональд Трамп заявил, что страна должна одновременно искать способы контроля над ИИ и сохранять мировое лидерство в этой сфере.
После серии инцидентов Сэм Альтман провел встречи с американскими законодателями и представителями администрации. Он заявил, что согласен с необходимостью обсуждать ограничения, но предупредил и об обратной стороне чрезмерного регулирования.
По мнению главы OpenAI, существует риск, что страх перед искусственным интеллектом приведет к концентрации власти в руках небольшой группы компаний или государственных структур.
"Плохо, если регулирование станет способом передать контроль над ИИ узкому кругу людей", — отметил Альтман.
Первые решения о том, какие системы будут считаться наиболее мощными и опасными, власти США должны принять уже в ближайшее время. Разработчики надеются, что новые правила позволят не остановить развитие технологий полностью, а создать механизм, который не даст искусственному интеллекту опередить возможности человека по управлению им.
Читайте по теме:
ИИ случайно уничтожил базу данных американской компании
