Чи здатний штучний інтелект ініціювати ядерний конфлікт? Частина 1.
Навіть на простіші питання важко отримати чіткі відповіді. Проте ми спробуємо розібратися в тому, чи може існувати "ядерна кнопка", на яку штучний інтелект міг би вплинути. Якщо ж це неможливо, то які ще загрози, пов'язані з ядерною зброєю, може становити штучний інтелект?
На міжнародному рівні вже давно пролунали перші сигнали стурбованості щодо допуску штучного інтелекту до систем управління ядерною зброєю. Щобільше, вже є навіть спільні міжнародні рішення на цю тему. Зокрема, спільна декларація США й Китаю 2024 року про те, що остаточне рішення про застосування ядерної зброї має залишатися за людиною, а не за алгоритмом. Також є політична декларація про відповідальне військове використання штучного інтелекту та автоматики 2023 року, яку станом на сьогодні підписали близько 60 держав. Декларація вимагає людського контролю у ключових ланках прийняття рішень. Відштовхуючись від цих перспектив та від нашого сьогоднішнього розуміння того, як може діяти штучний інтелект, пошукаємо відповідь на питання в заголовку цієї статті.
У більш широкому контексті аналітичні групи та експертні мережі провідних держав підкреслюють важливість збереження "людини в циклі" при ухваленні військових рішень, водночас визнаючи цінність штучного інтелекту для підвищення ситуаційної обізнаності. Таким чином, наступний раунд міжнародних переговорів щодо контролю над ядерними озброєннями та ядерного роззброєння, який колись відбудеться, напевно включатиме питання інтеграції штучного інтелекту і пов’язаних з цим обмежень. Виходячи з цих перспектив і нашого поточного розуміння функцій штучного інтелекту, давайте спробуємо знайти відповідь на питання, яке було винесене в заголовок цієї статті.
перше випробування термоядерної зброї відбулося 31 жовтня 1952 року, зображення: gettyimages
Як і в випадку з багатьма іншими типами зброї, для активації ядерної боєголовки необхідно, умовно кажучи, зняти запобіжник і натиснути на спусковий механізм. Проте процес використання ядерної зброї є результатом поєднання політичних рішень і військових дій. Таким чином, у контексті ядерної зброї реалізується стара, але в новому світлі для війни в цілому, взаємодія між людським наміром і автоматизованими системами.
Дослідимо, як функціонує американська система управління ядерною зброєю — вона є найстаршою, найсучаснішою і найбільш прозорою в очах науковців, що робить її зразком для інших ядерних держав. Інші системи залишаються маловідомими. Проте навіть Радянський Союз, який досяг ядерного паритету зі Сполученими Штатами (Китай ще не досяг такого рівня), а також сучасна Росія, розвивали свої ядерні програми, орієнтуючись на американський стандарт. Однак вони робили це з певним запізненням через технологічні та інституційні обмеження.
Спочатку у першому поколінні ядерних боєприпасів запобіжник виглядав як неповна конструкція. Це означало, що критично важливий елемент, необхідний для ініціації вибуху, монтувався лише перед використанням ядерного пристрою. Згодом запобіжник ускладнився і став нагадувати кодовий замок захищеного сейфа. Незабаром виявилося, що існує політична потреба в автоматизації системи запобіжників, персоналізації їх для кожного боєприпасу, а також у передачі кодів від військових до вищого політичного командування. Американські військові висловлювали опозицію, але зрештою погодилися, що це єдиний спосіб контролю в умовах "холодної" війни, коли виникла потреба розгорнути ядерну зброю на території союзників в Європі.
Таким чином, виникли технічні ланцюги контролю застосування, відомі як permissive action links (PAL). Ця система, що забезпечує індивідуальний контроль за кожним боєприпасом, розвивалася разом із технологічним прогресом і поступово впроваджувалась на тисячах одиниць озброєння. Історія цього процесу розпочалася в 1960-х роках і завершилася лише наприкінці 1990-х, коли військові, зокрема командири ядерних підводних човнів, втратили можливість повного контролю над ядерними арсеналами на борту.
Яка процедура в США для деактивації ядерного запобіжника і активації ядерного удару?
Політичний наказ може надійти тільки від президента, за його відсутності - від віцепрезидента, а за відсутності і його - за складнішою процедурою передачі повноважень. При цьому Президент США, як і глави держав і урядів інших ядерних країн, не мають "ядерної кнопки", яка б могла безпосередньо запустити ракети чи інші типи ядерної зброї.
"Ядерний кейс", ілюстрація: gettyimages
А що ж насправді демонструють у фільмах? Пристрої, які ми бачимо у новинах і кіно поруч із вищими військовими керівниками, є засобами для достовірної передачі політичних наказів до центрів управління ядерними силами та їх аналогів. Так звана "ядерна валіза" містить засоби для надійного зв'язку з командним центром і інструкції для санкціонування використання ядерної зброї. Тут немає "кодів" для запуску ядерних арсеналів; є лише "код" особи, яка віддає наказ командному центру ядерних сил, без якого неможливо сформувати бойовий наказ в рамках військової системи. Якщо спростити, процес активації з боку вищого керівника полягає в його або її автентифікації за допомогою певної процедури. Далі, "натискання гачка" проявляється у виборі конкретного варіанту дій для ядерних сил.
На цьому етапі людина самостійно, так би мовити, ознайомлюється з інструкцією, торкається пальцем до кнопки і через телефон вводить певний "код". Автоматизована система гарантує безпеку самого каналу зв'язку, проте не відповідає за те, що передається через нього.
Отже, це перший рівень системи - політичний.
На другому рівні американської системи управління, центр, відповідальний за ядерні сили, після отримання офіційного наказу від верховного головнокомандувача, починає створення екстрених бойових повідомлень (Emergency Action Message, EAM). Ці накази, призначені для кожного екіпажу ядерних платформ, що знаходяться на суші, в повітрі та на морі, містять усю необхідну інформацію для здійснення дій. Процес формування таких наказів неможливий без отримання специфічних даних від вищого політичного керівництва. Це є військовим запобіжником найвищого рівня, який знімається з політичного верху. Швидше за все, для цього використовуються методи машинної криптографії, хоча точні деталі залишаються невідомими. Відомо лише те, що військовий командний центр не має можливості самостійно зняти цей запобіжник для видачі бойового наказу.
Індивідуальні повідомлення EAM надходять з центру управління ядерними силами і виконують роль бойового наказу для екіпажів, які чергують на підводних човнах, у шахтах та на аеродромах. Ці накази передаються в електронному вигляді через спеціально визначені канали зв'язку, які повинні залишатися функціональними навіть в умовах ядерного конфлікту. Автентичність EAM для екіпажів на суші, морі та в повітрі завжди перевіряється двома особами, які отримують накази через незалежні канали зв'язку. Лише після підтвердження автентичності та відповідності змісту наказів, екіпаж має право діяти на підставі отриманих інструкцій. Отже, без інформації, що міститься в EAM, екіпажі ядерних платформ не можуть приймати рішення про застосування ядерної зброї.
Яким чином виглядає ця інформація?
Текст містить дві основні складові. Перша з них активує запобіжник - PAL, який інтегровано в кожен снаряд. Друга складова містить дані, необхідні для активації гачка: інформацію про час, ціль, траєкторію, силу вибуху та інші характеристики, що визначають специфіку ядерного удару. Ця інформація стосується не лише самого боєприпасу, але й транспортного засобу, що його доставляє. Очевидно, що без знятого запобіжника зброя не може бути активована.
Проте навіть у момент, коли дві особи, відповідальні за виконання завдання, зняли запобіжний механізм і визначили ціль, їм потрібно узгоджено підтвердити людський намір. У кінематографі це часто ілюструється як одночасне натискання кнопок або обертання ключів. Основна концепція полягає в людському намірі. Це можна порівняти з перевіркою, що використовується для відокремлення людей від автоматизованих систем в інтернеті, так званою "captcha": це відносно проста та зрозуміла процедура, але її може пройти лише людина.
Гідролокаційне приміщення атомного підводного човна з балістичними ракетами USS Maine, зображення: gettyimages.
Врешті-решт, останній рівень захисту закладений безпосередньо в ядерному боєприпасі. Найважливіше, що він стає недоступним для людини, коли всі інші запобіжники зняті, а ціль встановлена. Це не просто механізм, а справжній запобіжник. В американських боєприпасах його називають посиленою системою безпеки детонації (enhanced nuclear detonation safety, ENDS). Ця система активується відповідно до параметрів, встановлених для конкретної цілі - тобто боєприпас повинен зафіксувати, наприклад, прискорення під час запуску ракети впродовж певного часу, стан невагомості протягом визначеного періоду, або гальмування в атмосфері за певної тривалості. У разі, якщо фізичні умови доставки до об'єкта не відповідають заданим, детонація не відбудеться.
Що відомо про інші країни? У Російській Федерації "ядерна валіза" функціонує так само, як і в Сполучених Штатах — це інструмент для достовірного зв’язку з командним центром. Чи оснащені всі російські ядерні боєприпаси аналогічними системами захисту, такими як PAL, залишається невідомим. Проте, ймовірно, що всі постійно розгорнуті на носіях боєприпаси мають запобіжники, які недоступні для членів екіпажу, що знаходяться поряд зі зброєю.
Цікаво, що оцінити цю ситуацію можна, зокрема, через драматичність та терміновість процесу ядерного роззброєння України. Це можна порівняти з намірами Росії розмістити ядерну зброю за межами своїх кордонів. Без належних технічних запобіжників це лишається політично неможливим. З огляду на те, що Путін часто проводить ядерні навчання в присутності Лукашенка, можливо, у них немає доступу до цих кодів. Вони можуть перебувати десь усередині військової системи, яка повинна реагувати на команди з справжньої "ядерної валізи".
російська міжконтинентальна балістична ракета "Тополь", фото: gettyimages
У Великій Британії влада зосереджена в руках прем'єр-міністра; ядерні боєприпаси, схожі на американські, напевно, оснащені кодовими запобіжниками, проте британські військові, ймовірно, мають більшу автономію у їх використанні в порівнянні з американськими колегами. У Франції, з іншого боку, процес застосування ядерної зброї, ймовірно, відображає американську модель.
Система управління в Китаї, напевно, залишається однією з найстаріших у світі. Історично склалося так, що в цій країні акцент робився на сувору централізацію та довговічність управлінських структур, з поступовим нарощуванням готовності їхніх представників. Як і в багатьох інших державах, на завершальних етапах виконання наказів останні команди повинні демонструвати людський підхід. Це виглядає досить складно і нагадує про важливість "утримування запобіжника" в порівнянні з "натисканням гачка".
