Загроза зникнення людства до 2030 року: чому фахівці з штучного інтелекту залишають Anthropic та OpenAI у великих кількостях.

Штучний суперінтелект та захоплення ресурсів

Конфлікт в сфері штучного інтелекту досяг критичної точки: провідні спеціалісти покидають провідні технологічні лабораторії, звинувачуючи керівництво у нехтуванні глобальною безпекою. Колишній дослідник компанії Anthropic Джейкоб Коксон зазначив, що ключові розробники OpenAI та Anthropic глибоко переконані у можливості штучного суперінтелекту знищити людство ще до завершення цього десятиліття, повідомляє "Дивогляд" за інформацією Daily Mail.

Небезпека штучного надінтелекту та безконтрольна гонка за його розвитком.

За словами Коксона, який три роки займався навчанням нейромереж, проблема виникає тоді, коли система досягає рівня штучного суперінтелекту - стану, коли потужність алгоритмів перевищує можливості будь-якої людини, корпорації чи держави. Подібний надлюдський розум спроможний миттєво зламати захисні бар'єри, перехопити управління ресурсами й перебрати на себе реальну владу на планеті.

Експерт зазначає, що ці тривоги не є частиною PR або маркетингової кампанії. У приватних розмовах керівники великих ІТ-компаній визнають наявність серйозних загроз, проте продовжують активно змагатися за лідерство у галузі. Реальність небезпеки підтверджується випадком зламування відомої платформи Hugging Face за допомогою моделей від OpenAI, що підкреслює нагальну необхідність укладення міжнародних угод і введення мораторію на подальший розвиток цих технологій.

10% ймовірності зникнення людства та політичний тиск у Сполучених Штатах.

Слова Коксона підтвердив керівник відділу безпеки Anthropic, Еван Габінгер, який вказав на те, що розробники справді готуються до найгірших можливих сценаріїв. Він зазначив, що вірогідність катастрофічного завершення подій перевищує 10% вже протягом найближчих десяти років. При цьому компанія поки що не має чіткої стратегії для безпечної інтеграції майбутнього суперінтелекту з інтересами людства. Канадський вчений Джеффрі Гінтон також висловив тривогу, зазначивши, що втрата контролю над інтелектом, який перевершує людський, може призвести до повного зникнення людського роду.

Ситуація на міжнародній арені стала ще більш напруженою. У Великій Британії виник політичний скандал, коли компанія Anthropic вирішила не передавати свої передові моделі для перевірки британському Інституту безпеки штучного інтелекту. Як виявилося, це рішення було ухвалено під впливом прямого тиску з боку адміністрації президента США Дональда Трампа.

Раніше "Дивогляд" розповідав про 12 професій, які зникнуть до 2035 року через ШІ.