Опасность искусственного интеллекта связана не с появлением «разумной машины», которая самостоятельно решит уничтожить человечество. Реальный риск возникает раньше: нейросети снижают стоимость дезинформации, кибератак, промышленного шпионажа и массового психологического воздействия.
Для производства убедительной фальшивки больше не нужны телевизионная студия, команда монтажёров и несколько дней работы. Генеративная модель создаёт текст, изображение, голос или видео за минуты, а автоматизированная система может адаптировать сообщение под возраст, профессию, политические взгляды и эмоциональное состояние конкретного человека.
Из-за этого ИИ отличается от традиционного оружия механизмом масштабирования. Ядерный боеприпас требует дефицитного сырья, промышленной инфраструктуры и сложной системы доставки. Модель или набор алгоритмов можно скопировать, дообучить и развернуть на тысячах устройств. Один оператор получает возможность одновременно воздействовать на миллионы пользователей.
Государства уже пытаются сформировать правила. В августе 2025 года Генеральная Ассамблея ООН учредила Независимую международную научную группу по искусственному интеллекту и Глобальный диалог по управлению ИИ. Первая сессия диалога прошла 6–7 июля 2026 года в Женеве. Однако эти механизмы пока создают площадку для обмена данными и выработки принципов, а не систему инспекций и санкций, сопоставимую с контролем ядерных материалов.
Искусственный интеллект уже стал инструментом гибридной войны
Гибридная война строится не только на военных операциях. Она включает информационное давление, кибератаки, экономическое воздействие, разведку, дискредитацию институтов и управление настроениями общества. Искусственный интеллект усиливает каждый из этих каналов за счёт скорости обработки данных и автоматизации.
Генеральный директор и акционер российского вендора ИИ-решений 3iTech Алексей Любимов считает, что сама технология остаётся нейтральным инструментом. Опасность появляется на уровне данных, целей и сценариев применения:
Этот механизм уже используется бизнесом для продаж и клиентской поддержки: система распознаёт речь, анализирует тональность и подбирает следующий ответ. В информационной операции та же архитектура решает противоположную задачу — выявляет страхи человека, тестирует аргументы и постепенно подводит его к нужному выводу.
Член Центрального совета Независимого профсоюза «Новый труд», кандидат экономических наук, доцент МГЛУ и РГСУ Саид Гафуров сравнивает искусственный интеллект с порохом: технология не формирует намерение, но резко увеличивает возможности того, кто её применяет.
Граница между гражданским и военным ИИ размыта. Система компьютерного зрения может контролировать качество продукции на заводе или распознавать объекты на поле боя. Языковая модель способна готовить ответы службы поддержки или формировать тысячи вариантов пропагандистских сообщений. Голосовой синтез используется в аудиокнигах и одновременно позволяет имитировать голос руководителя, родственника или государственного деятеля.
Управляющий партнёр «Зинин, Штурбин и партнёры» Тим Зинин рассматривает эту проблему с точки зрения стоимости и доступности технологии:
Главное изменение заключается именно в падении порога входа. Информационные операции перестают быть исключительным ресурсом государств и крупных организаций. Небольшая группа получает инструменты, которые раньше требовали отдельного медиапроизводства, аналитического центра и сети операторов.
Дипфейки заметны, персонализированная манипуляция работает скрытно
Наиболее обсуждаемой опасностью ИИ остаются дипфейки. Поддельное видео легко показать аудитории, оно вызывает сильную эмоциональную реакцию и быстро распространяется. Однако его воздействие ограничивает сама публичность: ролик можно исследовать, сопоставить с другими записями и публично опровергнуть.
Более сложная угроза — индивидуальная информационная среда, в которой каждому пользователю показывают собственную версию событий. Такая система не распространяет один фейк на миллион человек. Она создаёт миллион различных сообщений, каждое из которых учитывает данные конкретного получателя.
Алексей Любимов считает манипулирование общественным мнением более серьёзным риском, чем отдельные поддельные ролики:
Персонализация повышает эффективность воздействия за счёт последовательности. Сначала алгоритм определяет темы, на которые человек реагирует сильнее. Затем подбирает лексику и аргументы, совпадающие с его картиной мира. После этого пользователь получает не одно спорное утверждение, а цепочку взаимосвязанных материалов, которые подтверждают друг друга.
Саид Гафуров также считает, что общественное внимание чрезмерно сконцентрировано на визуальных подделках:
Тим Зинин связывает масштаб угрозы с себестоимостью атаки:
Опасность использования ИИ усиливается отрицательной экономикой защиты. Создателю фейка достаточно один раз сгенерировать материал и запустить рассылку. Платформам, компаниям и пользователям приходится проверять каждый входящий файл, звонок и запрос. Стоимость атаки распределяется между тысячами жертв, а расходы на защиту несёт каждый получатель отдельно.
Европейский AI Act пытается сократить этот разрыв через требования прозрачности. С 2 августа 2026 года отдельные генеративные системы и сервисы, создающие дипфейки, должны обеспечивать информирование пользователей и добавлять машиночитаемую маркировку синтетического или изменённого контента. Однако маркировка работает только тогда, когда платформы сохраняют её, а пользователи доверяют источнику проверки.
Почему создать «МАГАТЭ для нейросетей» почти невозможно
Сравнение искусственного интеллекта с ядерным оружием звучит логично из-за потенциального масштаба ущерба. Однако механизм контроля этих технологий принципиально различается.
Ядерная программа зависит от физических объектов: месторождений, центрифуг, реакторов, предприятий по обогащению, хранилищ и средств доставки. Эти объекты можно обнаруживать, учитывать и инспектировать. Алгоритмы не имеют такой привязки. Код копируется практически без дополнительных затрат, а вычисления можно распределять между коммерческими дата-центрами и частной инфраструктурой.
Алексей Любимов считает международный контроль военных и специальных систем ИИ нереалистичным:
Даже при создании международной организации государства сохранят закрытые военные разработки. Проверить, для каких задач обучалась модель, сложнее, чем установить наличие физического материала. Одна и та же архитектура может анализировать медицинские снимки, спутниковые изображения или данные разведки.
Саид Гафуров предлагает регулировать не сами алгоритмы, а наиболее опасные сценарии их применения:
Такой подход ближе к регулированию авиации или кибербезопасности. Международная система не запрещает технологию целиком, но устанавливает требования к тестированию, документированию инцидентов, человеческому контролю и ответственности операторов.
OECD уже развивает мониторинг инцидентов и угроз, связанных с искусственным интеллектом. Его задача — собирать сведения о реальных случаях вреда, выявлять повторяющиеся сценарии и создавать доказательную базу для регулирования. Это не система принуждения, но без единой классификации инцидентов государства не смогут даже сопоставлять масштабы угроз.
Тим Зинин указывает ещё на одну проблему: скорость выпуска моделей выше скорости согласования международных правил.
Из этого следует, что эффективный контроль должен работать ближе к точке применения. Проверять каждую модель невозможно, но можно обязать платформы маркировать синтетический контент, компании — подтверждать критические операции по независимому каналу, а разработчиков — документировать системные риски и результаты тестирования.
Международный договор по ИИ столкнётся с конфликтом безопасности и конкурентоспособности
Главное препятствие для глобального договора — экономическая и военная ценность искусственного интеллекта. Ограничение мощности моделей, объёма вычислений или доступа к данным способно замедлить развитие государства, тогда как его конкуренты могут продолжить исследования.
Алексей Любимов сомневается, что США, Китай или крупные технологические компании добровольно остановят разработку более производительных систем:
Проблема напоминает классическую гонку вооружений. Каждая сторона может считать ограничение рациональным, но боится, что конкурент нарушит договор и получит одностороннее преимущество. Поэтому соглашение становится возможным только при наличии проверяемых обязательств и симметричных рисков.
Саид Гафуров допускает постепенное появление международных правил:
Вероятнее всего, единый договор не появится сразу. Сначала государства согласуют ограниченные нормы: запрет отдельных типов автономного оружия, обязательное сохранение человеческого контроля, обмен информацией о крупных инцидентах, маркировку синтетического контента и правила использования ИИ в критической инфраструктуре.
Тим Зинин подчёркивает трансграничность технологии:
Национальный запрет не останавливает модель, размещённую в другой юрисдикции. Поэтому локальное регулирование способно контролировать компании и платформы внутри страны, но не устраняет внешний источник атаки.
Глобальный цифровой договор ООН уже определяет международное управление искусственным интеллектом как отдельное направление цифрового сотрудничества. Однако действующая конструкция основана на координации, научной оценке и диалоге, а не на обязательном лицензировании разработок.
Кто должен отвечать за последствия работы искусственного интеллекта
Ответственность — один из главных споров вокруг ИИ. Цепочка создания и применения модели включает разработчика архитектуры, поставщика данных, владельца сервиса, компанию, внедрившую систему, платформу распространения и конечного пользователя.
Алексей Любимов считает ответственным того, кто применяет инструмент:
Эта логика работает при умышленном использовании нейросети для мошенничества, шантажа или создания вредоносного кода. Но она сложнее применима к системам, которые компания самостоятельно внедрила в кредитный скоринг, медицину, кадровый отбор или управление промышленным оборудованием. Пользователь может не знать, какие данные использовались при обучении и почему алгоритм принял конкретное решение.
Саид Гафуров предлагает распределить ответственность между всеми участниками цепочки:
Распределённая модель ближе к механике технологических рисков. Разработчик не отвечает за любое преступное применение продукта, но должен устранять известные уязвимости. Владелец системы обязан ограничивать опасные сценарии. Компания отвечает за решение внедрить алгоритм без проверки. Пользователь несёт ответственность за умышленное нарушение.
Тим Зинин добавляет к этой цепочке платформы и самих получателей информации:
Для бизнеса это означает отказ от доверия к голосу, видео или сообщению как к самостоятельному доказательству личности. Перевод денег, изменение реквизитов и передача доступа должны подтверждаться через второй канал: корпоративную систему, обратный звонок по сохранённому номеру, электронную подпись или заранее согласованный код.
Что произойдёт, если гонку искусственного интеллекта не ограничить
На горизонте пяти-десяти лет основной риск связан не с появлением сверхразума, а с индустриализацией уже известных преступлений. Мошенники смогут одновременно вести тысячи персонализированных диалогов, анализировать реакцию жертв и менять сценарий разговора в реальном времени.
Саид Гафуров прогнозирует рост информационного противоборства, промышленного шпионажа и киберпреступности:
Тим Зинин ожидает, что ответом станет отдельная инфраструктура подтверждения происхождения цифрового контента:
Развитие ИИ может привести к парадоксальному результату: чем реалистичнее становятся цифровые материалы, тем меньше люди им доверяют. Под сомнение попадут не только подделки, но и реальные записи. Политик, руководитель компании или преступник сможет объявить настоящий компромат нейросетевым фейком.
Поэтому главная линия защиты проходит не через попытку остановить все нейросети. Необходима система, в которой можно установить происхождение контента, проверить личность отправителя и определить ответственного участника цепочки.
Искусственный интеллект может стать опаснее отдельного вида оружия не из-за собственной воли, а из-за доступности. Он масштабирует намерения человека, снижает стоимость атаки и позволяет одновременно воздействовать на миллионы целей. Международное регулирование способно ограничить отдельные сценарии, но полностью остановить технологическую гонку при нынешней конкуренции государств практически невозможно.
Реальная задача на ближайшие годы — сохранить человеческий контроль над критическими решениями, обязать платформы проверять происхождение контента и сформировать ответственность на каждом уровне: от разработчика до конечного пользователя.
