Глобальная дискуссия об искусственном интеллекте смещается от добровольных мер безопасности к требованиям создать международный орган — как раз в тот момент, когда США и Китай, две наиболее влиятельные державы в сфере ИИ, остаются за пределами коалиции, продвигающей эту инициативу.

Под руководством Норвегии и Финляндии 20 стран поддержали декларацию, призывающую Организацию Объединённых Наций изучить возможность создания института, способного устанавливать стандарты, проверять их соблюдение и созывать правительства, когда системы ИИ достигают опасных порогов возможностей. Подписавшие декларацию представляют эту инициативу как способ управлять рисками, не допуская того, чтобы доступ к преимуществам ИИ усиливал разрыв между странами.

Премьер-министр Австралии Энтони Албанезе охарактеризовал позицию коалиции как проинновационную, но при этом жёстко ограниченную человеческим суждением. ИИ может «улучшать жизнь», повышать производительность и способствовать развитию медицинской науки, заявил он, но «люди должны его контролировать».¹ В декларации также говорится, что ИИ должен оставаться под «руководством, надзором и контролем человека» и действовать в рамках международного права.²

Предложение также отражает обеспокоенность, которую высказывают руководители ведущих технологических компаний, включая генерального директора Anthropic Дарио Амодеи и главу OpenAI Сэма Альтмана. Сторонники инициативы утверждают, что общие процедуры тестирования, оценки и проверки необходимы, поскольку передовые системы могут создавать риски в сфере кибербезопасности, биологии и контроля со стороны человека, с которыми ни одна страна не способна справиться в одиночку.

Однако кажущийся консенсус внутри коалиции скрывает глубокий геополитический и политический раскол. США, Китай, Великобритания, Франция, Италия, Польша и Япония не подписали декларацию. Критики представляют международный надзор как попытку расширить государственный контроль, создать технологический картель в интересах уже действующих компаний или реализовать продиктованную страхом стратегию, которая может замедлить развитие США, пока Китай будет продвигаться вперёд.

Даже сторонники предложения признают его главный недостаток: создание института может оказаться осуществимым, однако наделить его «реальными полномочиями» и проверять секретные или военные системы ИИ будет трудно.² Поэтому декларация представляет собой скорее начальное заявление в борьбе за то, кто будет определять границы ИИ, а не работающий глобальный режим — и примут ли их самые могущественные игроки.