Лента новостей
В Москве прошел круглый стол «Благоустройство в Москве – пир во время чумы?»
Мастер-классы, чемпионаты и флешмобы: что ждет молодежь на форуме-фестивале «Москва 2030» в сентябре
13% российских фанатов ежемесячно тратят на спортивные события до 20 000 руб
Бесплатные курсы по ИТ, маркетингу и дизайну пройдут в сентябре в «Технограде»
Теннисный турнир в честь Ю. М. Лужкова: финальные матчи и награждение впереди
«Активные граждане» определят лучшие городские бассейны под открытым небом
Технологии
Об опасности бесконтрольного масштабирования возможностей ИИ предупредили эксперты
![Об опасности бесконтрольного масштабирования возможностей ИИ предупредили эксперты](https://mockvanews.fra1.digitaloceanspaces.com/wp-content/uploads/2023/11/0fotoeksp.jpg)
Катастрофические риски для человечества несет в себе бесконтрольное масштабирование возможностей искусственного интеллекта. Ведущие мировые эксперты призывают разработать международный договор по безопасности ИИ, главные цели которого – предотвращение угроз и обеспечение доступа к благам ИИ для всех людей.
В Великобритании 1 и 2 ноября 2023 года прошел первый Международный саммит по безопасности ИИ. Специалисты в области ИИ опубликовали накануне события открытое письмо, в котором мировому сообществу предлагается разработать и ратифицировать международный договор о безопасности ИИ, который должен получить широкое одобрение. Эксперты отмечают также необходимость создать на Саммите по безопасности ИИ специальную рабочую группу для разработки документа при широкой международной поддержке.
Такие специалисты, как ведущий эксперт в области безопасности и управления ИИ в Китае Йи Цзэн, известный когнитивист Гари Маркус, старший научный сотрудник Google DeepMind и соучредитель Института будущего жизни (FLI) Виктория Краковна, член правления ведущей лаборатории ИИ Anthropic Люк Мюльхаузер, обладатель премии Тьюринга и пионер ИИ Йошуа Бенджио и многие другие поставили под открытым письмом свои подписи.
«Обеспечение того, чтобы ИИ был безопасным и приносил пользу всем, является не только технической, но и геополитической проблемой. Нам нужно, чтобы великие державы мира, включая США и Китай, отложили в сторону свои разногласия ради человечества и конструктивно работали над созданием надежного набора международных правил, направленных на сосредоточение внимания на этих проблемах», – отметил британский прогнозист Толга Билге, возглавивший инициативу.
Эксперты в сопроводительных заявлениях к письму говорили о необходимости создания основанных на здравом смысле новых, сильных международных институтов и правил, которые будут регулировать чрезмерное развитие ИИ, угрожающее безопасности и благополучию человека, а также глобального консенсуса и глобальных действий для выяснения потенциальных путей развития ИИ и рисков с его стороны. Нужна политическая воля ведущих технологических держав, таких как США, Европейский Союз и других, считают специалисты, чтобы переговоры по международному договору о безопасности ИИ были восприняты в качестве неотложного дипломатического вызова.