Об опасности бесконтрольного масштабирования возможностей ИИ предупредили эксперты

Катастрофические риски для человечества несет в себе бесконтрольное масштабирование возможностей искусственного интеллекта. Ведущие мировые эксперты призывают разработать международный договор по безопасности ИИ, главные цели которого – предотвращение угроз и обеспечение доступа к благам ИИ для всех людей.

В Великобритании 1 и 2 ноября 2023 года прошел первый Международный саммит по безопасности ИИ. Специалисты в области ИИ опубликовали накануне события открытое письмо, в котором мировому сообществу предлагается разработать и ратифицировать международный договор о безопасности ИИ, который должен получить широкое одобрение. Эксперты отмечают также необходимость создать на Саммите по безопасности ИИ специальную рабочую группу для разработки документа при широкой международной поддержке.

Такие специалисты, как ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио и многие другие поставили под открытым письмом свои подписи.

«Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах», – отметил британский прогнозист Толга Билге, возглавивший инициативу.

Эксперты в сопроводительных заявлениях к письму говорили о необходимости создания основанных на здравом смысле новых, сильных международных институтов и правил, которые будут регулировать чрезмерное развитие ИИ, угрожающее безопасности и благополучию человека, а также глобального консенсуса и глобальных действий для выяснения потенциальных путей развития ИИ и рисков с его стороны. Нужна политическая воля ведущих технологических держав, таких как США, Европейский Союз и других, считают специалисты, чтобы переговоры по международному договору о безопасности ИИ были восприняты в качестве неотложного дипломатического вызова.