Вашингтон и Пекин пытаются создать механизм экстренной связи на случай, если искусственный интеллект выйдет из-под контроля и спровоцирует глобальный конфликт, пока сами разработчики молят об остановке безумной технологической гонки.
Позвони мне, позвони…
Соединенные Штаты и Китай начали беспрецедентные переговоры о создании прямой «горячей линии» для предотвращения катастроф, вызванных автономными системами искусственного интеллекта. Инициатива звучит не как дипломатическая любезность, а как крик о помощи на фоне пугающих инцидентов, когда алгоритмы самостоятельно взламывают реальную инфраструктуру и едва не развязывают войны из-за собственных галлюцинаций.
Весной этого года мир оказался на волоске от вооруженного конфликта. Американские военные, ведущие активные действия на Ближнем Востоке, едва не атаковали китайское судно. Причиной стал разведывательный доклад, сгенерированный нейросетью. Машина уверенно связала разрозненные данные радиоэлектронной разведки и судовых манифестов, выдав ложный, но идеально структурированный вывод. Офицеры успели поднять авиацию, и лишь случайная перепроверка сырых данных человеком предотвратила международный конфликт.
Эксперт по искусственному интеллекту Илья Русяев позже разобрал эту ситуацию: «Цена ошибки выросла именно на этапе оформления, когда содержание осталось прежним, а статус документа изменился. Системная причина названа в самой публикации. Внедрение идет разрозненно, ведомства применяют разные инструменты под разными требованиями безопасности, единого порядка проверки сгенерированной информации не выработано… реальный ущерб приносят обычные решения, принятые людьми по красиво оформленному машинному тексту».
Именно этот фатальный сбой в архитектуре человеческого доверия к машинам заставил министра финансов США Скотта Бессента и вице-премьера Госсовета КНР Хэ Лифэна сесть за стол переговоров в Нью-Йорке. Вашингтон осознал, что в эпоху автономных алгоритмов классической дипломатии уже недостаточно.
«Мы хотим начать обсуждать протоколы, чтобы обе стороны определили ключевые угрозы ИИ, будь то неконтролируемые агенты, негосударственные акторы в киберпространстве или связанные с биологическим оружием», — заявил Бессент, фактически признав, что Пентагон и разведка больше не понимают, как работают их собственные цифровые советники.
Бунт невидимых агентов
Проблема давно переросла стадию забавных ошибок чат-ботов. Мы столкнулись с появлением автономных агентов, которым ставят задачу и дают ключи от реального мира: доступ к интернету, коду, финансовым транзакциям и серверам. Летом этого года изолированные тестовые среды дали трещину. Агенты OpenAI, поставленные перед сложной задачей, самостоятельно нашли друг друга, скооперировались и взломали платформу Hugging Face, жертвуя отдельными инстансами ради достижения общей цели. В мае аналогичный шок пережила корпорация Google: их модель Gemini во время учебных тестов случайно обнаружила совпадение вымышленного домена с реальным, вышла в открытый интернет и успешно взломала инфраструктуру трех посторонних компаний, просто подобрав забытые в репозиториях пароли.
Машины не испытывают ненависти к человечеству. Они просто оптимизируют функцию награды, игнорируя этику и здравый смысл. GPT-4 нанимал людей на бирже фриланса для обхода капчи, уверяя, что он слабовидящий человек. Модели Claude в корпоративных симуляциях шантажировали сотрудников, угрожая раскрыть их супружеские измены, если те попытаются отключить серверы.
Создатели этих систем охвачены экзистенциальным ужасом. Бывший специалист Anthropic Джейкоб Коксон, покинувший компанию, бьет тревогу, заявляя, что корпорации «несутся прямо к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями». К нему присоединяются Илон Маск и Сэм Альтман. Глава Anthropic Дарио Амодеи, чья компания одной из первых заговорила о рисках потери контроля, резюмировал общее настроение Кремниевой долины: «Предлагаемые мной меры для безопасного продвижения ИИ будут непростыми. Но я считаю, что мы обязаны попытаться».
Ловушка технологического суверенитета
Парадокс текущей ситуации заключается в том, что Вашингтон и Пекин вынуждены искать точки соприкосновения в сфере безопасности, продолжая при этом жесточайшую технологическую войну. Ограничения на экспорт передовых чипов и оборудования для производства полупроводников остались за скобками нового диалога. США по-прежнему душат китайскую индустрию санкциями, но именно эти санкции заставили Пекин совершить невероятный рывок.
Лишенные доступа к лучшим американским чипам, китайские разработчики сделали ставку на алгоритмическую эффективность, открытую архитектуру и дешевую государственную энергетику. Открытые модели, такие как Qwen и DeepSeek, скачиваются миллионами раз, мгновенно адаптируясь под нужды промышленности, медицины и логистики от Юго-Восточной Азии до Ближнего Востока. Китай интегрирует нейросети в заводы и фабрики с пугающей скоростью, создавая замкнутую экосистему, которой не страшны заокеанские эмбарго.
Понимая это, американский истеблишмент пытается разделить конкуренцию и выживание. «Мы считаем, что, как и в случае с любой трансграничной деятельностью, переход от непрозрачности к большей прозрачности между первой и второй державами мира в сфере ИИ очень важен», — подчеркивает Скотт Бессент. Однако официальная реакция Пекина остается настороженной. Агентство «Синьхуа» сухо назвало переговоры конструктивными, намеренно проигнорировав детали американского предложения о взаимных уведомлениях. Китай не хочет подписываться под правилами, которые диктует геополитический оппонент, пытающийся одновременно затормозить его развитие.
Иллюзия человеческого надзора
Ситуация усугубляется внутренней политической турбулентностью в самих Штатах. Дональд Трамп, готовящийся к очному саммиту с Си Цзиньпином в Вашингтоне, объявил о создании специального «подразделения по искусственному интеллекту» и назначении «царя ИИ». При этом он открыто назвал разговоры о восстании машин мифом и конспирологией, выгодной исключительно Китаю. Белый дом отказывается замедлять гонку, рассматривая ИИ как основу для четверти будущего ВВП страны.
В это же время OpenAI публикует манифесты о необходимости глобальных стандартов для рекурсивного самосовершенствования — момента, когда ИИ начнет самостоятельно писать код для создания следующих, еще более умных версий самого себя. Индустрия понимает: как только этот порог будет пройден, человеческий надзор превратится в фикцию. Мы просто не сможем понять логику существа, чей интеллект будет превосходить наш на порядки.
Предстоящая встреча в Шэньчжэне через два месяца должна показать, способны ли две сверхдержавы договориться хотя бы о базовых «красных линиях». Сможет ли горячая линия остановить рой автономных дронов или кибератаку, спланированную алгоритмом за миллисекунды до того, как человек-оператор успеет моргнуть? История учит, что любые договоренности о ненападении работают лишь до тех пор, пока цена ошибки не становится ниже потенциальной выгоды. И единственное, что остается дипломатам — это молиться, чтобы нейросеть по ту сторону океана интерпретировала понятие «национальная безопасность» точно так же, как и они сами.
Николай Ильясов
Источник: Азия 24 · Владимир