Back to Base
Computer ScienceUniversity Courseкибератакицифровизациявойныискусственныйинтеллект
Современные Кибератаки и Цифровизация Войны: Вызовы и Перспективы
МФК
Карасёк
МГУ
Published on Mar 9, 2026
Contributed by
Anonymous
Современные Кибератаки и Цифровизация Войны: Вызовы и Перспективы
#Кибератаки #ЦифровизацияВойны #ИскусственныйИнтеллект #МеждународноеПраво #АвтономныеСистемыВооружения #ИнформационнаяБезопасность
Введение в Современные Кибератаки
Начнем с обзора современных кибератак, чтобы освежить понимание их природы и последствий. Кибератака – это целенаправленное воздействие на компьютерные и информационные системы, а также сети. Цели таких атак разнообразны: от получения финансовой выгоды или информации для продажи до вывода систем из строя.
Примеры Современных Кибератак
Рассмотрим несколько знаковых примеров:
-
WannaCry (2017 год)
- Суть атаки: Хакеры обнаружили уязвимость, позволяющую получить доступ к компьютерам без пароля и проверки. Вирус-вымогатель шифровал данные на зараженных машинах и требовал выкуп в биткоинах за их восстановление.
- Масштаб: Было заражено более 200 тысяч компьютеров по всему миру.
- Остановка атаки: Атака была случайно остановлена одним человеком, который заметил, что вирус постоянно обращается к одной адресной строке. Он зарегистрировал эту строку, и оказалось, что она служила "стоп-краном" для вируса, возможно, предусмотренным разработчиком.
- Обвинения: В атаке обвинили Северную Корею, основываясь на "следах" в коде вируса, которые могут указывать на страну или группировку разработчиков.
-
Атака на SolarWinds (2020 год)
- Суть атаки: SolarWinds – американская компания, разрабатывающая программное обеспечение для системных администраторов, используемое повсеместно, включая правительство США и крупные корпорации. Хакеры не атаковали напрямую эти организации, а скомпрометировали систему доставки обновлений SolarWinds. Они внедрили вредоносный код в официальные обновления, которые затем устанавливались клиентами компании. Вредоносная программа действовала скрытно, а затем предоставляла хакерам доступ к сетям организаций, позволяя им похищать или использовать информацию.
- Обвинения: В атаке обвинили "злых русских", ссылаясь на высокий профессионализм атаки.
-
Атака на военные силы (2022 год)
- Суть атаки: Жертвы получали документ, который выглядел как план, но на самом деле был скриптовой программой, запускающей сценарий PowerShell. Этот сценарий загружал вредоносную программу, которая проверяла, не запущена ли она в "песочнице" (изолированной среде для анализа неизвестных программ). Затем хакеры устанавливали скрытые серверы на компьютеры жертв, используя протокол удаленного управления через сеть Tor, что затрудняло отслеживание.
- Результат: Хакеры получили полный доступ к серверам военных, включая секретные файлы и документы.
- Обвинения: Вновь обвинили "русских" из-за отслеживаемых следов, но с низкой вероятностью, так как стопроцентных доказательств не было.
-
Атака "Тамашек" (2023 год)
- Суть атаки: Эта группа атаковала самих хакеров и специалистов. Они внедрили закладку в инструменты, размещенные на GitHub (популярный ресурс для программистов). Закладка требовала установки дополнительного пакета, который выглядел безобидно, регулярно обновлялся и проходил проверки. При установке этого инструмента, вредоносный пакет собирал данные, историю команд, пароли и скрытно майнил криптовалюту.
- Неизвестность: Личность атакующих до сих пор неизвестна из-за использования бесплатных анонимных серверов, запутанного кода без уникальных примет и неопределенных целей (атаковали как крупные, так и мелкие компании).
-
Использование Искусственного Интеллекта (ИИ) в атаках
- Пример: Хакеры использовали ИИ для имитации голоса сотрудника Google, который представил новый сайт. Они звонили коллегам жертвы, имитируя голос сотрудника, и просили сообщить пароль, якобы забытый или лежащий на столе.
Выводы по Кибератакам
- Разнообразие источников и целей: Атаки могут исходить от киберпреступников (мотивация – нажива, выполнение заданий за вознаграждение), хактивистов или государственных группировок (политические цели).
- Широкий круг целей: От простых пользователей до серьезных организаций.
- Изобретательность преступников: Методы атак постоянно совершенствуются. Часто атаки, направленные на конкретную цель, распространяются массово для создания хаоса и затруднения идентификации.
- Трудность атрибуции: Из-за изощренности методов и маскировки следов очень сложно определить истинного инициатора атаки, особенно если она преследует политические цели.
- Операции прикрытия: Реальные цели могут быть скрыты за более очевидными, например, за шифрованием данных без возможности расшифровки, что указывает на цель вывода систем из строя.
Цифровизация Войны
Развитие цифровых технологий и искусственного интеллекта предоставляет существенные преимущества во всех сферах человеческой деятельности, включая военное дело. Научно-технический прогресс и развитие военной мысли тесно связаны, и война часто является двигателем прогресса.
Исторические Примеры Влияния Войны на Прогресс
- Авиация: Реактивная авиация – продукт исследований Второй мировой войны.
- Освоение космоса: Началось с разработки межконтинентальных баллистических ракет (например, советская "Семерка" Р-7), которые затем легли в основу ракет-носителей для мирного освоения космоса.
- Ядерная энергетика: Развитие ядерной отрасли немыслимо без ядерной гонки и испытаний, несмотря на трагические события Хиросимы и Нагасаки. Сегодня атомные электростанции служат на благо человечества.
Направления Цифровизации в Военной Сфере
Государства стремятся использовать цифровые технологии для достижения военного превосходства в нескольких ключевых направлениях:
- Цифровизация существующих систем и образцов вооружений: Модернизация и интеграция цифровых компонентов в уже имеющуюся технику.
- Разработка новых видов вооружений: Создание систем, которые стали возможны благодаря достижениям в машинном зрении (например, снаряды, способные распознавать цели).
- Цифровизация производства: Оптимизация логистики, ускоренная разработка вооружений и военной техники.
Искусственный Интеллект как Ключевой Фактор
ИИ и его приложения все чаще рассматриваются как решающий фактор. Развитые государства мира поставили цель достижения лидерства в исследованиях и применении ИИ в ближайшем будущем.
Смертоносные Автономные Системы (САС)
Многие ученые и активисты выражают опасения по поводу применения ИИ в военных целях, особенно в контексте использования САС. Существуют организации, такие как "Остановить роботов-убийц" (Stop Killer Robots), которые активно выступают против их разработки.
-
Определение САС: На сегодняшний день нет единого международного определения САС. Однако в США существует классификация по степени автономности вооруженных систем:
- Автономное оружие: После активации может поражать цели без дальнейшего вмешательства человека-оператора (например, система Patriot, которая в автоматическом режиме сбивала самолеты, не различая их тип).
- Автономное оружие с контролем оператора: Системы, в которых оператор имеет возможность вмешаться и прекратить действие.
- Полуавтономное оружие: После активации поражает только отдельные цели или категории целей, выбранные оператором.
-
Преимущества и Недостатки САС:
- Достоинства: Снижение вероятности ошибок, связанных с человеческим фактором (скорость реакции, утомляемость, этические соображения), предсказуемость.
- Недостатки: Вероятность ошибок, связанных с обучением, восприятием и обработкой данных ИИ. Морально-этические проблемы и вопросы ответственности за решения, принимаемые автономной системой.
Категории Искусственного Интеллекта
Для понимания возможностей ИИ выделяют две основные категории:
-
Слабый (специализированный) ИИ:
- Не обладает собственным целеполаганием.
- Имитирует отдельные мыслительные процессы для выполнения строго определенных задач (распознавание образов, речи, текста).
- Может выполнять эти задачи лучше человека.
- Примеры: улучшение фото, распознавание речи, чтение текста.
- Возрождение интереса к слабому ИИ связано с появлением больших объемов данных, огромных вычислительных мощностей и новых методов (нейронные сети).
-
Сильный (общий) ИИ:
- Компьютерный аналог человеческого мозга, обладающий сознанием и способностью к общему мышлению.
- Находится на теоретической стадии разработки.
- По мнению специалистов, создание сильного ИИ на современных технологиях невозможно.
- Заявления о скором появлении сильного ИИ (например, от Илона Маска) являются спекуляциями.
Проблемы Обучения ИИ
- Недостаток качественных данных: Нейросети требуют огромных массивов размеченных или неразмеченных данных для обучения.
- Когнитивные закладки: Плохие данные могут нарушить процесс обучения или заложить в работу ИИ нештатную запрограммированную реакцию. Например, система может быть обучена игнорировать определенные сочетания цветов или орнаменты, что позволит скрывать объекты от ее обнаружения.
- Проблема "черного ящика": ИИ, особенно нейронные сети, часто представляют собой "черный ящик", то есть понять, как именно система приходит к тому или иному ответу, практически невозможно. Это затрудняет верификацию и объяснение ее решений.
- Существуют исследовательские программы (например, DARPA с проектом Explainable AI), направленные на создание "объяснимого ИИ", но открытых результатов пока нет.
Уязвимость ИИ-систем к Кибератакам
ИИ-системы, будучи программно-аппаратными комплексами, подвержены традиционным кибератакам. Более того, возможны гибридные киберкогнитивные атаки, когда злоумышленник получает доступ к базам данных обучающейся системы и внедряет туда когнитивные искажения. Для защиты от таких атак существующих методов и средств информационной безопасности недостаточно.
Уязвимость Военных Систем
- Зависимость от цифровых систем: Чем больше военные системы зависят от информационно-компьютерных систем, тем более они уязвимы к кибервоздействиям. Это касается систем связи, обработки информации и даже систем управления ядерными силами.
- Подключенность к сетям: Системы, подключенные к глобальным сетям, автоматически находятся под угрозой. Метод "air-gap" (физический разрыв между системой и внешним миром) может помочь, но не полностью исключает риски.
- Инсайдеры: Завербованные или внедренные лица могут осуществлять кибердиверсии изнутри, используя, например, USB-накопители.
- Устаревшее ПО: Военные системы, как и гражданские, могут использовать устаревшее программное обеспечение (например, Windows XP на мостиках некоторых кораблей ВМФ Великобритании), что делает их уязвимыми.
- Атаки в море: Даже корабли в море уязвимы через спутниковые системы связи. Существуют конкурсы хакеров (DEF CON), где одной из задач является взлом спутников.
- Отложенные атаки: Вредоносные закладки могут быть внедрены во время обслуживания техники на базах и активироваться при определенных условиях (по времени или по выполнению критериев).
Международное Гуманитарное Право (МГП) и ИИ
МГП – это свод норм, ограничивающих последствия вооруженных конфликтов в гуманитарной области. Оно также известно как право вооруженных конфликтов или право войны.
Основные Принципы МГП
- Принцип проведения различий: Стороны конфликта должны всегда различать гражданское население и комбатантов, а также гражданские и военные объекты. Действия должны быть направлены только против военных объектов.
- Проблема для ИИ: Сможет ли ИИ с машинным зрением лучше человека различать комбатантов от гражданских? Известен случай в Афганистане, когда оператор беспилотника ошибочно принял группу людей за вооруженных лиц, нанеся удар по гражданским.
- Мера предосторожности: Необходимо принимать все возможные меры для исключения или минимизации гибели, ранения или разрушения объектов, находящихся под защитой МГП.
- Соразмерность: Если невозможно избежать ущерба, то чрезмерные последствия, несоразмерные с достигаемой военной целью, должны быть исключены.
- Проблема для ИИ: Существуют мнения, что некоторые информационно-аналитические системы могут иметь режим, полностью отключающий принцип соразмерности, позволяя уничтожать "жирные" цели даже при наличии большого числа гражданских.
- Запрет на причинение излишних страданий: Запрещено применять средства и методы ведения войны, которые причиняют излишние страдания или повреждения.
Проблемы Реализации Принципов МГП в ИИ-системах
- Трудность верификации: Из-за "черного ящика" ИИ сложно проверить, заложены ли принципы МГП в его алгоритмы. Система может "ответить" что угодно, но на практике действовать иначе.
- Проблема дегуманизации: Удаленное управление и принятие решений ИИ может привести к когнитивному диссонансу у операторов, ослабляя их стремление действовать гуманно. Операторы могут воспринимать боевые действия как видеоигру.
- Решение: Недостаточно просто ввести требование "значимого человеческого контроля". Необходимо разрабатывать новые подходы, чтобы предотвратить дегуманизацию и обеспечить соблюдение МГП.
Политики Разработки и Использования ИИ в Военных Целях
Более 20 государств приняли политики в сфере ИИ, признавая его огромное значение. В военном контексте особое внимание уделяется США, Китаю и России.
Соединенные Штаты
- Эволюция позиции:
- 2016 год: Первый доклад "Готовясь к будущему ИИ" – США считают себя лидерами в НИОКР и координации глобальных исследований.
- 2018 год: Стратегия Министерства обороны США – осознание необходимости "перехватывать инициативу" и быть лидерами, что указывает на утрату прежнего превосходства.
- 2019 год: Доклад Комиссии по национальной безопасности по ИИ – отмечается "эрозия военного превосходства" США.
- Причины: Производство микропроцессоров и чипов (например, Nvidia) сконцентрировано в Юго-Восточной Азии, что создает зависимость и уязвимость.
- Директива 2012 года "Автономные системы вооружения":
- Цель: Минимизировать вероятность непреднамеренных столкновений.
- Принципы:
- Значимый человеческий контроль: Командиры и операторы должны осуществлять контроль над применением силы.
- Ответственность за действия: Ответственность за соблюдение МГП возлагается на человека-оператора, а не на саму систему. Возникает вопрос, заложены ли эти принципы в ИИ-системы на случай потери контроля.
- Соответствие принципам: Характеристики и проектирование систем должны соответствовать политическим принципам.
- Стратегия американского военного ИИ (январь 2024 года):
- Принцип AI-fusion: Вся деятельность Министерства обороны должна использовать системы ИИ – от разведки до логистики и боевых действий.
- Семь ключевых проектов: Направлены на боевые действия, разведку и корпоративные операции.
- Цели: Расширение вычислительной инфраструктуры, доступ к данным для асимметричного преимущества, привлечение специалистов, устранение идеологических проблем.
- Давление на компании: Пентагон пытается "выкручивать руки" компаниям, не желающим использовать свои ИИ-системы в военных целях.
- Оптимизация и ускорение: ИИ призван устранить бюрократию, оптимизировать процессы и ускорить принятие на вооружение новой техники, а также снизить коррупционную составляющую.
- Новые подрядчики: Появляются новые военные подрядчики (например, выходцы из Palantir), предлагающие недорогие и эффективные решения.
- Применение ИИ в конфликтах: Эффективность использования ИИ в планировании, логистике и выборе целей в текущих конфликтах (например, между Израилем, США и Ираном) покажет его реальную ценность. Есть мнение, что США активно использовали ИИ в операции по захвату Мадуро.
Россия
- Национальная стратегия развития ИИ до 2030 года (октябрь 2019 года):
- Не затрагивает напрямую военное использование, но предполагает достижение лидерства в этой сфере.
- Россия обладает значительным потенциалом для становления одним из международных лидеров в развитии и использовании ИИ-технологий.
- Концепция единства вооруженных сил (2022 год):
- Представлена на конференции по негуманному оружию.
- Цель: Закрепить принципы развития и применения систем вооружения с ИИ, обеспечивающие ответственность по международному праву (включая МГП).
- Принципы:
- Безопасность: Физическая и киберзащищенность, снижение рисков распространения.
- Прозрачность и объяснимость работы ИИ.
- Сохранение ответственности человека за решения.
- Необходимость человеческого контроля.
Китай
- Стратегия развития ИИ (2017 год):
- Цель: К 2030 году стать главным центром инноваций в области ИИ, достигнув ведущего уровня в теоретических и технологических разработках.
- Военное использование: ИИ должен использоваться для поддержки командования, принятия решений, военного анализа и в военной технике.
- Позиция на международных площадках:
- Китай считает, что военный ИИ не должен использоваться как инструмент для начала войны или достижения гегемонии.
- Призывает к соблюдению общих ценностей, человеческого благополучия и этических норм.
- Подчеркивает необходимость соблюдения МГП и международных законов.
- Призывает к совместному регулированию военного применения ИИ и созданию универсального международного режима.
Вызовы Международной Безопасности
- Гонка вооружений в сфере ИИ: Декларируемые многими странами стремления к лидерству в военном применении ИИ могут спровоцировать глобальную гонку вооружений, что является серьезным вызовом международной безопасности.
- Отсутствие действенных механизмов регулирования: С 2014 года ведутся международные дискуссии по вопросам САС, но они разделены по многим вопросам.
- Группы стран:
- За полный запрет САС: Например, Австрия.
- За достаточность существующего МГП: Например, Россия (и ранее США).
- За создание нового международного договора: Например, Китай.
- Группы стран:
- Изменение позиции США (2023 год): США, при участии группы стран, предложили "проекты статей об автономных системах оружия", которые интерпретируют существующие нормы МГП применительно к САС. Это создает прецедент "мягкого права" и может привести к созданию некого консенсуса, выгодного западным странам.
- Выведение регулирования из системы ООН: Существует риск, что процесс регулирования САС будет выведен из системы ООН на сторонние площадки, что приведет к размыванию дискуссии и созданию "келейных договоренностей", которые затем будут предложены международному сообществу для формального утверждения.
- Пример: ICANN (Internet Corporation for Assigned Names and Numbers) работает по принципу "мультистейкхолдерности", где доминируют западные компании и общественные организации, что может привести к обслуживанию интересов западных стран в сфере ИИ.
Заключение
Использование ИИ в военных целях уже осуществляется и будет только расширяться. Это ставит перед человечеством серьезные вопросы и вызовы.
- Необходимость общих принципов: Крайне важно выработать общее понимание и стандарты в этой области. Хотя независимые научные группы работают над гражданскими решениями ИИ, есть надежда, что их принципы "просочатся" и в военные технологии.
- Риск глобального конфликта: Активная гонка ИИ по всем направлениям затрудняет выработку общих принципов и может привести к глобальному конфликту.
- Позиция России: Россия твердо настаивает на том, что обсуждение САС должно проходить в рамках ООН и существующих площадок, чтобы избежать размывания процесса и подмены реальной дискуссии.
Следующая лекция будет посвящена вопросам когнитивного воздействия.
Generated by AI-powered TranscribeLecture.com • 3/9/2026
Современные Кибератаки и Цифровизация Войны: Вызовы и Перспективы
#Кибератаки #ЦифровизацияВойны #ИскусственныйИнтеллект #МеждународноеПраво #АвтономныеСистемыВооружения #ИнформационнаяБезопасность
Введение в Современные Кибератаки
Начнем с обзора современных кибератак, чтобы освежить понимание их природы и последствий. Кибератака – это целенаправленное воздействие на компьютерные и информационные системы, а также сети. Цели таких атак разнообразны: от получения финансовой выгоды или информации для продажи до вывода систем из строя.
Примеры Современных Кибератак
Рассмотрим несколько знаковых примеров:
-
WannaCry (2017 год)
- Суть атаки: Хакеры обнаружили уязвимость, позволяющую получить доступ к компьютерам без пароля и проверки. Вирус-вымогатель шифровал данные на зараженных машинах и требовал выкуп в биткоинах за их восстановление.
- Масштаб: Было заражено более 200 тысяч компьютеров по всему миру.
- Остановка атаки: Атака была случайно остановлена одним человеком, который заметил, что вирус постоянно обращается к одной адресной строке. Он зарегистрировал эту строку, и оказалось, что она служила "стоп-краном" для вируса, возможно, предусмотренным разработчиком.
- Обвинения: В атаке обвинили Северную Корею, основываясь на "следах" в коде вируса, которые могут указывать на страну или группировку разработчиков.
-
Атака на SolarWinds (2020 год)
- Суть атаки: SolarWinds – американская компания, разрабатывающая программное обеспечение для системных администраторов, используемое повсеместно, включая правительство США и крупные корпорации. Хакеры не атаковали напрямую эти организации, а скомпрометировали систему доставки обновлений SolarWinds. Они внедрили вредоносный код в официальные обновления, которые затем устанавливались клиентами компании. Вредоносная программа действовала скрытно, а затем предоставляла хакерам доступ к сетям организаций, позволяя им похищать или использовать информацию.
- Обвинения: В атаке обвинили "злых русских", ссылаясь на высокий профессионализм атаки.
-
Атака на военные силы (2022 год)
- Суть атаки: Жертвы получали документ, который выглядел как план, но на самом деле был скриптовой программой, запускающей сценарий PowerShell. Этот сценарий загружал вредоносную программу, которая проверяла, не запущена ли она в "песочнице" (изолированной среде для анализа неизвестных программ). Затем хакеры устанавливали скрытые серверы на компьютеры жертв, используя протокол удаленного управления через сеть Tor, что затрудняло отслеживание.
- Результат: Хакеры получили полный доступ к серверам военных, включая секретные файлы и документы.
- Обвинения: Вновь обвинили "русских" из-за отслеживаемых следов, но с низкой вероятностью, так как стопроцентных доказательств не было.
-
Атака "Тамашек" (2023 год)
- Суть атаки: Эта группа атаковала самих хакеров и специалистов. Они внедрили закладку в инструменты, размещенные на GitHub (популярный ресурс для программистов). Закладка требовала установки дополнительного пакета, который выглядел безобидно, регулярно обновлялся и проходил проверки. При установке этого инструмента, вредоносный пакет собирал данные, историю команд, пароли и скрытно майнил криптовалюту.
- Неизвестность: Личность атакующих до сих пор неизвестна из-за использования бесплатных анонимных серверов, запутанного кода без уникальных примет и неопределенных целей (атаковали как крупные, так и мелкие компании).
-
Использование Искусственного Интеллекта (ИИ) в атаках
- Пример: Хакеры использовали ИИ для имитации голоса сотрудника Google, который представил новый сайт. Они звонили коллегам жертвы, имитируя голос сотрудника, и просили сообщить пароль, якобы забытый или лежащий на столе.
Выводы по Кибератакам
- Разнообразие источников и целей: Атаки могут исходить от киберпреступников (мотивация – нажива, выполнение заданий за вознаграждение), хактивистов или государственных группировок (политические цели).
- Широкий круг целей: От простых пользователей до серьезных организаций.
- Изобретательность преступников: Методы атак постоянно совершенствуются. Часто атаки, направленные на конкретную цель, распространяются массово для создания хаоса и затруднения идентификации.
- Трудность атрибуции: Из-за изощренности методов и маскировки следов очень сложно определить истинного инициатора атаки, особенно если она преследует политические цели.
- Операции прикрытия: Реальные цели могут быть скрыты за более очевидными, например, за шифрованием данных без возможности расшифровки, что указывает на цель вывода систем из строя.
Цифровизация Войны
Развитие цифровых технологий и искусственного интеллекта предоставляет существенные преимущества во всех сферах человеческой деятельности, включая военное дело. Научно-технический прогресс и развитие военной мысли тесно связаны, и война часто является двигателем прогресса.
Исторические Примеры Влияния Войны на Прогресс
- Авиация: Реактивная авиация – продукт исследований Второй мировой войны.
- Освоение космоса: Началось с разработки межконтинентальных баллистических ракет (например, советская "Семерка" Р-7), которые затем легли в основу ракет-носителей для мирного освоения космоса.
- Ядерная энергетика: Развитие ядерной отрасли немыслимо без ядерной гонки и испытаний, несмотря на трагические события Хиросимы и Нагасаки. Сегодня атомные электростанции служат на благо человечества.
Направления Цифровизации в Военной Сфере
Государства стремятся использовать цифровые технологии для достижения военного превосходства в нескольких ключевых направлениях:
- Цифровизация существующих систем и образцов вооружений: Модернизация и интеграция цифровых компонентов в уже имеющуюся технику.
- Разработка новых видов вооружений: Создание систем, которые стали возможны благодаря достижениям в машинном зрении (например, снаряды, способные распознавать цели).
- Цифровизация производства: Оптимизация логистики, ускоренная разработка вооружений и военной техники.
Искусственный Интеллект как Ключевой Фактор
ИИ и его приложения все чаще рассматриваются как решающий фактор. Развитые государства мира поставили цель достижения лидерства в исследованиях и применении ИИ в ближайшем будущем.
Смертоносные Автономные Системы (САС)
Многие ученые и активисты выражают опасения по поводу применения ИИ в военных целях, особенно в контексте использования САС. Существуют организации, такие как "Остановить роботов-убийц" (Stop Killer Robots), которые активно выступают против их разработки.
-
Определение САС: На сегодняшний день нет единого международного определения САС. Однако в США существует классификация по степени автономности вооруженных систем:
- Автономное оружие: После активации может поражать цели без дальнейшего вмешательства человека-оператора (например, система Patriot, которая в автоматическом режиме сбивала самолеты, не различая их тип).
- Автономное оружие с контролем оператора: Системы, в которых оператор имеет возможность вмешаться и прекратить действие.
- Полуавтономное оружие: После активации поражает только отдельные цели или категории целей, выбранные оператором.
-
Преимущества и Недостатки САС:
- Достоинства: Снижение вероятности ошибок, связанных с человеческим фактором (скорость реакции, утомляемость, этические соображения), предсказуемость.
- Недостатки: Вероятность ошибок, связанных с обучением, восприятием и обработкой данных ИИ. Морально-этические проблемы и вопросы ответственности за решения, принимаемые автономной системой.
Категории Искусственного Интеллекта
Для понимания возможностей ИИ выделяют две основные категории:
-
Слабый (специализированный) ИИ:
- Не обладает собственным целеполаганием.
- Имитирует отдельные мыслительные процессы для выполнения строго определенных задач (распознавание образов, речи, текста).
- Может выполнять эти задачи лучше человека.
- Примеры: улучшение фото, распознавание речи, чтение текста.
- Возрождение интереса к слабому ИИ связано с появлением больших объемов данных, огромных вычислительных мощностей и новых методов (нейронные сети).
-
Сильный (общий) ИИ:
- Компьютерный аналог человеческого мозга, обладающий сознанием и способностью к общему мышлению.
- Находится на теоретической стадии разработки.
- По мнению специалистов, создание сильного ИИ на современных технологиях невозможно.
- Заявления о скором появлении сильного ИИ (например, от Илона Маска) являются спекуляциями.
Проблемы Обучения ИИ
- Недостаток качественных данных: Нейросети требуют огромных массивов размеченных или неразмеченных данных для обучения.
- Когнитивные закладки: Плохие данные могут нарушить процесс обучения или заложить в работу ИИ нештатную запрограммированную реакцию. Например, система может быть обучена игнорировать определенные сочетания цветов или орнаменты, что позволит скрывать объекты от ее обнаружения.
- Проблема "черного ящика": ИИ, особенно нейронные сети, часто представляют собой "черный ящик", то есть понять, как именно система приходит к тому или иному ответу, практически невозможно. Это затрудняет верификацию и объяснение ее решений.
- Существуют исследовательские программы (например, DARPA с проектом Explainable AI), направленные на создание "объяснимого ИИ", но открытых результатов пока нет.
Уязвимость ИИ-систем к Кибератакам
ИИ-системы, будучи программно-аппаратными комплексами, подвержены традиционным кибератакам. Более того, возможны гибридные киберкогнитивные атаки, когда злоумышленник получает доступ к базам данных обучающейся системы и внедряет туда когнитивные искажения. Для защиты от таких атак существующих методов и средств информационной безопасности недостаточно.
Уязвимость Военных Систем
- Зависимость от цифровых систем: Чем больше военные системы зависят от информационно-компьютерных систем, тем более они уязвимы к кибервоздействиям. Это касается систем связи, обработки информации и даже систем управления ядерными силами.
- Подключенность к сетям: Системы, подключенные к глобальным сетям, автоматически находятся под угрозой. Метод "air-gap" (физический разрыв между системой и внешним миром) может помочь, но не полностью исключает риски.
- Инсайдеры: Завербованные или внедренные лица могут осуществлять кибердиверсии изнутри, используя, например, USB-накопители.
- Устаревшее ПО: Военные системы, как и гражданские, могут использовать устаревшее программное обеспечение (например, Windows XP на мостиках некоторых кораблей ВМФ Великобритании), что делает их уязвимыми.
- Атаки в море: Даже корабли в море уязвимы через спутниковые системы связи. Существуют конкурсы хакеров (DEF CON), где одной из задач является взлом спутников.
- Отложенные атаки: Вредоносные закладки могут быть внедрены во время обслуживания техники на базах и активироваться при определенных условиях (по времени или по выполнению критериев).
Международное Гуманитарное Право (МГП) и ИИ
МГП – это свод норм, ограничивающих последствия вооруженных конфликтов в гуманитарной области. Оно также известно как право вооруженных конфликтов или право войны.
Основные Принципы МГП
- Принцип проведения различий: Стороны конфликта должны всегда различать гражданское население и комбатантов, а также гражданские и военные объекты. Действия должны быть направлены только против военных объектов.
- Проблема для ИИ: Сможет ли ИИ с машинным зрением лучше человека различать комбатантов от гражданских? Известен случай в Афганистане, когда оператор беспилотника ошибочно принял группу людей за вооруженных лиц, нанеся удар по гражданским.
- Мера предосторожности: Необходимо принимать все возможные меры для исключения или минимизации гибели, ранения или разрушения объектов, находящихся под защитой МГП.
- Соразмерность: Если невозможно избежать ущерба, то чрезмерные последствия, несоразмерные с достигаемой военной целью, должны быть исключены.
- Проблема для ИИ: Существуют мнения, что некоторые информационно-аналитические системы могут иметь режим, полностью отключающий принцип соразмерности, позволяя уничтожать "жирные" цели даже при наличии большого числа гражданских.
- Запрет на причинение излишних страданий: Запрещено применять средства и методы ведения войны, которые причиняют излишние страдания или повреждения.
Проблемы Реализации Принципов МГП в ИИ-системах
- Трудность верификации: Из-за "черного ящика" ИИ сложно проверить, заложены ли принципы МГП в его алгоритмы. Система может "ответить" что угодно, но на практике действовать иначе.
- Проблема дегуманизации: Удаленное управление и принятие решений ИИ может привести к когнитивному диссонансу у операторов, ослабляя их стремление действовать гуманно. Операторы могут воспринимать боевые действия как видеоигру.
- Решение: Недостаточно просто ввести требование "значимого человеческого контроля". Необходимо разрабатывать новые подходы, чтобы предотвратить дегуманизацию и обеспечить соблюдение МГП.
Политики Разработки и Использования ИИ в Военных Целях
Более 20 государств приняли политики в сфере ИИ, признавая его огромное значение. В военном контексте особое внимание уделяется США, Китаю и России.
Соединенные Штаты
- Эволюция позиции:
- 2016 год: Первый доклад "Готовясь к будущему ИИ" – США считают себя лидерами в НИОКР и координации глобальных исследований.
- 2018 год: Стратегия Министерства обороны США – осознание необходимости "перехватывать инициативу" и быть лидерами, что указывает на утрату прежнего превосходства.
- 2019 год: Доклад Комиссии по национальной безопасности по ИИ – отмечается "эрозия военного превосходства" США.
- Причины: Производство микропроцессоров и чипов (например, Nvidia) сконцентрировано в Юго-Восточной Азии, что создает зависимость и уязвимость.
- Директива 2012 года "Автономные системы вооружения":
- Цель: Минимизировать вероятность непреднамеренных столкновений.
- Принципы:
- Значимый человеческий контроль: Командиры и операторы должны осуществлять контроль над применением силы.
- Ответственность за действия: Ответственность за соблюдение МГП возлагается на человека-оператора, а не на саму систему. Возникает вопрос, заложены ли эти принципы в ИИ-системы на случай потери контроля.
- Соответствие принципам: Характеристики и проектирование систем должны соответствовать политическим принципам.
- Стратегия американского военного ИИ (январь 2024 года):
- Принцип AI-fusion: Вся деятельность Министерства обороны должна использовать системы ИИ – от разведки до логистики и боевых действий.
- Семь ключевых проектов: Направлены на боевые действия, разведку и корпоративные операции.
- Цели: Расширение вычислительной инфраструктуры, доступ к данным для асимметричного преимущества, привлечение специалистов, устранение идеологических проблем.
- Давление на компании: Пентагон пытается "выкручивать руки" компаниям, не желающим использовать свои ИИ-системы в военных целях.
- Оптимизация и ускорение: ИИ призван устранить бюрократию, оптимизировать процессы и ускорить принятие на вооружение новой техники, а также снизить коррупционную составляющую.
- Новые подрядчики: Появляются новые военные подрядчики (например, выходцы из Palantir), предлагающие недорогие и эффективные решения.
- Применение ИИ в конфликтах: Эффективность использования ИИ в планировании, логистике и выборе целей в текущих конфликтах (например, между Израилем, США и Ираном) покажет его реальную ценность. Есть мнение, что США активно использовали ИИ в операции по захвату Мадуро.
Россия
- Национальная стратегия развития ИИ до 2030 года (октябрь 2019 года):
- Не затрагивает напрямую военное использование, но предполагает достижение лидерства в этой сфере.
- Россия обладает значительным потенциалом для становления одним из международных лидеров в развитии и использовании ИИ-технологий.
- Концепция единства вооруженных сил (2022 год):
- Представлена на конференции по негуманному оружию.
- Цель: Закрепить принципы развития и применения систем вооружения с ИИ, обеспечивающие ответственность по международному праву (включая МГП).
- Принципы:
- Безопасность: Физическая и киберзащищенность, снижение рисков распространения.
- Прозрачность и объяснимость работы ИИ.
- Сохранение ответственности человека за решения.
- Необходимость человеческого контроля.
Китай
- Стратегия развития ИИ (2017 год):
- Цель: К 2030 году стать главным центром инноваций в области ИИ, достигнув ведущего уровня в теоретических и технологических разработках.
- Военное использование: ИИ должен использоваться для поддержки командования, принятия решений, военного анализа и в военной технике.
- Позиция на международных площадках:
- Китай считает, что военный ИИ не должен использоваться как инструмент для начала войны или достижения гегемонии.
- Призывает к соблюдению общих ценностей, человеческого благополучия и этических норм.
- Подчеркивает необходимость соблюдения МГП и международных законов.
- Призывает к совместному регулированию военного применения ИИ и созданию универсального международного режима.
Вызовы Международной Безопасности
- Гонка вооружений в сфере ИИ: Декларируемые многими странами стремления к лидерству в военном применении ИИ могут спровоцировать глобальную гонку вооружений, что является серьезным вызовом международной безопасности.
- Отсутствие действенных механизмов регулирования: С 2014 года ведутся международные дискуссии по вопросам САС, но они разделены по многим вопросам.
- Группы стран:
- За полный запрет САС: Например, Австрия.
- За достаточность существующего МГП: Например, Россия (и ранее США).
- За создание нового международного договора: Например, Китай.
- Группы стран:
- Изменение позиции США (2023 год): США, при участии группы стран, предложили "проекты статей об автономных системах оружия", которые интерпретируют существующие нормы МГП применительно к САС. Это создает прецедент "мягкого права" и может привести к созданию некого консенсуса, выгодного западным странам.
- Выведение регулирования из системы ООН: Существует риск, что процесс регулирования САС будет выведен из системы ООН на сторонние площадки, что приведет к размыванию дискуссии и созданию "келейных договоренностей", которые затем будут предложены международному сообществу для формального утверждения.
- Пример: ICANN (Internet Corporation for Assigned Names and Numbers) работает по принципу "мультистейкхолдерности", где доминируют западные компании и общественные организации, что может привести к обслуживанию интересов западных стран в сфере ИИ.
Заключение
Использование ИИ в военных целях уже осуществляется и будет только расширяться. Это ставит перед человечеством серьезные вопросы и вызовы.
- Необходимость общих принципов: Крайне важно выработать общее понимание и стандарты в этой области. Хотя независимые научные группы работают над гражданскими решениями ИИ, есть надежда, что их принципы "просочатся" и в военные технологии.
- Риск глобального конфликта: Активная гонка ИИ по всем направлениям затрудняет выработку общих принципов и может привести к глобальному конфликту.
- Позиция России: Россия твердо настаивает на том, что обсуждение САС должно проходить в рамках ООН и существующих площадок, чтобы избежать размывания процесса и подмены реальной дискуссии.
Следующая лекция будет посвящена вопросам когнитивного воздействия.
Generated by AI-powered TranscribeLecture.com • 3/9/2026
Share your knowledge!