Штучний інтелект і мурахи: коли людство перетвориться на ресурс для надрозумних істот?
Майбутнє, про яке ми змушені говорити в контексті війни та миру, має різні аспекти. Один з них базується на парадигмі боротьби за виживання і є реактивним, тоді як інший передбачає стратегічний підхід, що враховує об'єктивні тенденції розвитку, і є проактивним. Людство, здається, існує одночасно в двох паралельних реальностях: одна з них орієнтована на майбутнє, де панують ідеї глобального блага, а інша занурена в середньовічну ментальність, насичену ненавистю. У першій реальності триває запекла конкуренція за пентафлопси та нанометри (перших повинно бути більше, а других — менше), у другій — відбуваються зусилля зупинити час або навіть повернути його назад. Цей дуалізм спотворює наше сприйняття реальності та ускладнює усвідомлення того, що ці несумісні світи мають спільну мету — змагання за лідерство в сфері штучного інтелекту. На наших очах формується технологія, яка, можливо, стане останнім промисловим етапом в історії людства. Вона обіцяє звільнити людей від рутинних завдань, але водночас може загострити ряд соціальних суперечностей, здатних призвести до вибухових наслідків. Важливо усвідомлювати, що відбувається насправді: прогнозування — це ключ до управління.
Технології завжди відігравали вирішальну роль у трансформації світу. Парові машини перетворили Британію на величезну імперію, де "ніколи не заходило сонце". Лампочка, винайдена Фарадеєм, освітлила шлях США до світової домінації, а створення транзистора відкрило нову еру інформаційних технологій, частково зрівнявши шанси у глобальному змаганні. Розвиток став менш залежним від природних ресурсів і територій, хоча в деяких випадках, наприклад, у контексті рідкоземельних металів, конкуренція лише загострилася. З часом стало очевидно, що ідеї про глобальне благо, які супроводжують нововведення, не завжди відображають щирі наміри. Одні й ті ж технології здатні як створювати, так і знищувати, покращувати світ або ж посилювати руйнівні сили. Мова йде не лише про очевидні випадки, коли один і той же процес може виробляти як добрива, так і вибухівку. Ситуація куди складніша, і важливо усвідомлювати віддалені, але неминучі наслідки переходу людства до нового технологічного етапу. Міфічні розповіді про кіборгів від Сема Альтмана та Білла Гейтса мають свій темний бік, про який вони згадують лише під тиском незаперечних доказів. Насправді ситуація набагато заплутаніша, ніж це подають сучасні "менестрелі": як кажуть японці, "в кожного медалі є дві сторони".
На сторінках популярних систем штучного інтелекту, таких як ChatGPT і Claude, є попередження: "ChatGPT / Claude можуть помилятися. Будь ласка, перевіряйте дані". Тим часом Білл Гейтс стверджує, що в найближчі кілька років ШІ зможе замінити вчителів і лікарів. Це викликає питання, чи готовий він довіряти діагнозам, які може ставити машина, що "може помилятися", або ж звертатися не до перевіреного стоматолога, а до його ШІ-аналогії. Подібні заяви від авторитетних фігур у сфері ІТ можуть суттєво вплинути на освітні стратегії, призводячи до втрати важливих навичок навчання та креативного використання знань, які можуть бути передані машинам. Як кажуть японці: "Жоден меч не може бути сильнішим за розум, який його створив". Проект Сема Альтмана, що передбачає сканування райдужок кожної людини на планеті в обмін на криптовалюту, вже стартував у США, попри побоювання щодо збору та обробки біометричних даних. Це намагання створити унікальну базу даних без аналогів, але чи можливо контролювати, як вона буде використана?
Фантастичні прогнози стосовно майбутнього людства, де пануватимуть технології ШІ, оприлюднюються, щоби переконати інвесторів вкладати дедалі більше ресурсів у цю сферу. Водночас вони свідчать: розробники в гарячці перегонів за лідерство втрачають етичні орієнтири та створюють щось таке, що зробить людину непотрібною з погляду еволюції. Далі непотрібними стануть і держави, які повністю перейдуть у цифровий формат. За нові ресурси, що ними стануть бази даних, воюватимуть цифрові агенти, створені супер-ШІ, який сам дбатиме про своє забезпечення. Зникнуть поняття кордонів і армій, окрім армій роботів і рабів, без яких усе-таки не обійтись. У якій із цих категорій опиняться люди? Супер-ШІ та люди утворять симбіотичний союз, як мурахи та попелиці, в якому обидва види мають взаємну вигоду. Мурахи отримують їжу у вигляді солодкого секрету, який виробляють попелиці, а попелиці -- захист від хижаків завдяки мурахам. Ця взаємодія є прикладом того, як обидва види залежать один від одного в питанні виживання. ШІ потребуватиме даних, які вироблятимуть люди, а він піклуватиметься, щоб люди отримували все необхідне для біологічного, але реактивного життя.
Можливо, можна уникнути встановлених людством норм соціального розвитку і освоїти складні математичні концепції для розробки алгоритмів, які імітують функціонування людського мозку. Проте, неможливо обійти універсальні закони Всесвіту, які не залежать від конкретного застосування. Один із таких законів стверджує, що будь-яка позитивна ініціатива, що має на меті загальне благо, якщо її довести до крайнощів, може перетворитися на свою протилежність. Це правило легко проілюструвати на прикладі впровадження технологій штучного інтелекту.
Фахівці у сфері штучного інтелекту впевнені, що його інтеграція в медичні послуги призведе до значного покращення якості лікування, що, в свою чергу, сприятиме збільшенню тривалості життя. Це означає, що кількість літніх людей зростатиме, і вони житимуть довше. Така ситуація призведе до зростання навантаження на соціальні служби, які вже відчувають тиск через зниження рівня народжуваності в країнах, де активно розвивається технологія ШІ. Якщо штучний інтелект також забере робочі місця у багатьох людей, виникає питання: хто ж буде сплачувати податки та внески на пенсійне забезпечення? Які ресурси забезпечать функціонування системи соціального захисту в епоху, коли штучний інтелект відіграє таку важливу роль? Хоча ШІ здатен на багато, для народження дітей необхідні зовсім інші засоби.
ШІ змінить структуру досліджень і розробок -- він уже впливає на самих розробників, які, здається, починають плутатися, хто кого "розробляє". Висловлюються прогнози, що нейроімпланти в мозок і нервову систему людини дадуть змогу не лише лікувати -- повертати зір і слух, а й розвинути здібності людей до небачених масштабів. Скажімо, покращена людина бачитиме на кілометри, швидше вивчатиме мови, миттєво реагуватиме на певні несподівані події тощо. Неважко передбачити, що з часом кіберпокращення стануть чимось на кшталт ботоксу. Покращені люди спочатку процвітатимуть, але згодом перетворяться на зворотний варіант екзоскелету -- не машина допомагатиме людині стояти й рухатися, а людина -- машині.
Штучний інтелект неможливий без величезних масивів даних. Однією з головних викликів, з якими стикаються дата-центри в умовах зростаючої цифровізації, є забезпечення їх електроенергією. Експерти оцінюють, що щодня генерується приблизно 400 мільйонів терабайтів інформації, а для зберігання та обробки цих даних, особливо в контексті розвитку штучного інтелекту, потрібні колосальні обсяги енергії.
У цьогорічному звіті Міжнародного енергетичного агентства (МЕА) зазначено, що до 2030 року попит на електроенергію з боку дата-центрів у світі більш ніж подвоїться -- до приблизно 945 терават-годин, що перевищує нинішнє споживання електроенергії всієї Японії. До 2035 року світове споживання електроенергії дата-центрами зросте ще на третину -- до близько 1200 ТВт⋅год. Аналогічних висновків дійшла компанія Goldman Sachs. Минулого року споживання електроенергії дата-центрами становило близько 1,5% світового обсягу, тобто 415 ТВт⋅год. На США припадало 45% цього показника, на Китай -- 25%, а на Європу -- 15%.
За даними експертів, типовий дата-центр, спеціалізований на штучному інтелекті, споживає електроенергії в обсязі, еквівалентному споживанню 100 тисяч домогосподарств. Найбільші новозбудовані дата-центри можуть витрачати у 20 разів більше енергії. Значна частина цього споживання пов'язана із системами охолодження, які є критично важливими для функціонування центрів. Сучасні технології, такі як графічні процесори (GPU), які необхідні для проведення складних обчислень, споживають більше енергії і генерують більше тепла, ніж центральні процесори (CPU), які наразі використовуються значно ширше. Відзначається, що системи охолодження можуть поглинати до 40% енергетичних ресурсів дата-центру.
Міжнародне енергетичне агентство (МЕА) повідомляє, що 85% глобального споживання енергії дата-центрами зосереджено в США, Китаї та Європі. У Японії ж споживання електроенергії дата-центрами не перевищує 20 ТВт⋅год, що становить близько 2% від загального обсягу, подібно до ситуації в Європі. Проте Японія вже планує значні інвестиції в розширення своїх дата-центрів, і інші країни регіону також прагнуть слідувати цьому прикладу. Основним викликом зал залишається питання постачання енергії. Зростаючий попит спонукає такі компанії, як Google, Microsoft та Amazon, інвестувати в ядерну енергетику. Цей перехід від державних ініціатив до активних дій великих корпорацій як фактору розвитку ядерної енергетики може мати далекосяжні наслідки, які ми поки що не повністю усвідомлюємо.
Великі ядерні проекти стикаються з численними труднощами, оскільки державна політика та регуляторні норми часто гальмують або навіть блокують їх розвиток. У цьому контексті особливу увагу привертають малі модульні реактори (SMR), які мають потужність до 300 МВт, тоді як традиційні реактори зазвичай забезпечують близько 1000 МВт. Компоненти SMR можуть бути виготовлені у великій кількості та зібрані на місці, що робить їх більш адаптивними до потреб ринку. Крім того, їх вартість значно нижча: приблизно 2 мільярди доларів у порівнянні з традиційними АЕС, які можуть коштувати понад 10 мільярдів доларів. Японія та Китай активно займаються розробкою цієї технології. Проте до моменту, коли SMR стануть широко доступними, прагнення до високої продуктивності в енергетичному секторі призводить до зростання споживання традиційних енергоресурсів, що підриває зусилля у боротьбі зі змінами клімату. У цьому контексті революція штучного інтелекту також вносить зміни в енергетичну політику.
Інший важливий аспект полягає в забезпеченні дата-центрів водою, необхідною для охолодження процесорів. Наприклад, дата-центр, який споживає 1 МВт електроенергії, витрачає приблизно 25,5 мільйона літрів води на рік. Загальна потужність усіх дата-центрів у світі становить близько 60 ГВт. Це призводить до споживання понад 1504,5 мільярда літрів води, яка не повертається в місцеву екосистему, як це відбувається з водою, що постачається комунальними службами, а випаровується. Наслідки для клімату можуть бути серйозними. Сумніви викликає й те, чи буде суперінтелект, який, за прогнозами інвесторів і розробників, керуватиме майбутнім світом, звертати увагу на такі важливі деталі.
Нас переконують, що сучасні моделі вже навчилися брехати, обходити встановлені правила й навіть погрожувати розробникам. Людство прямує до останнього промислового укладу у своїй історії, адже якщо безсумнівну користь від використання ШІ довести до абсурду, вона може обернутися на свою протилежність. Тобто майже вертикальне зростання експоненти закону Мура таки призведе, як і прогнозували, до технологічної сингулярності. Ні, людство не зникне, просто повернеться до простіших знарядь виробництва. Вижили ж наші пращури, які користувалися палицями й камінням.
