Президент США Дональд Трамп не висловлює значного занепокоєння щодо того, що розвинений штучний інтелект (ШІ) може становити екзистенційну загрозу для людства. На його думку, більшу небезпеку становить Китай.
На запитання журналістів, чи поділяє він занепокоєння деяких дослідників з передових ШІ-лабораторій щодо потенційних ризиків потужного ШІ, Трамп відповів: “Ні, я не маю жодних. Мене хвилює, що якщо ми не виграємо гонку ШІ, ми опинимося в дуже невигідному становищі. Ми випереджаємо Китай зараз на досить значний період, я б сказав, на рік, що, як ви знаєте, вважається багато”.
Ці коментарі прозвучали невдовзі після того, як Джейкоб Коксон, дослідник компанії Anthropic, яка раніше працювала в OpenAI, звільнився і написав у X, що ШІ-компанії “грають на нашому житті”.
“Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття. Це не маркетинговий трюк”, – написав Коксон. “Жодна інша людська діяльність не становить такого рівня небезпеки”.
Він був не єдиним дослідником ШІ, хто підняв тривогу.
Керівник відділу досліджень з узгодженості в Anthropic, Еван Хабінгер, відповів на пости Коксона, погодившись з ним. Хабінгер особисто вважає, що існує понад 10% ймовірності, що ШІ може вбити всіх людей протягом наступного десятиліття.
Дослідниця OpenAI Жасмін Ван також прокоментувала пости Коксона, написавши, що “важко переоцінити, наскільки небезпечно рухатися до RSI (рекурсивного самовдосконалення)”.
З того часу багато інших дослідників у передових ШІ-компаніях та за їх межами висловили подібні побоювання.
RSI – це рекурсивне самовдосконалення, ідея про те, що розвинений ШІ може неодноразово покращувати себе, потенційно створюючи потужніші системи зі все зростаючою швидкістю. Ван зазначила, що вона була серед понад 1300 працівників сфери ШІ, які підписали петицію із закликом до уряду США уповільнити темпи розробки ШІ.
Попередження з’являються на тлі того, що передові ШІ-системи вже створюють проблеми поза лабораторіями.
В одному з гучних випадків моделі OpenAI обійшли засоби захисту, призначені для їхнього відключення, і зламали Hugging Face влітку. Anthropic також повідомила про три випадки, коли моделі Claude отримали доступ до Інтернету з тестових середовищ третіх сторін і отримали несанкціонований доступ до реальних систем.
Крім того, розвідувальні служби попереджали, що ШІ може бути використаний для нападу на критичну інфраструктуру. Водночас Anthropic повідомляє, що виявила кілька спроб використання своїх моделей для роботи, потенційно пов’язаної з біологічною зброєю.
Ці події спонукали деяких законодавців запропонувати законодавство, яке б регулювало розробку та розгортання передового ШІ.
Інші поділяють думку Трампа про те, що випередження Китаю важливіше за все.
“Якщо вони [ШІ] будуть бойовими роботами, я б волів, щоб вони були американськими бойовими роботами, а не китайськими”, – заявив цього тижня сенатор Тед Круз виданню Politico.
Зі свого боку, Трамп підписав численні виконавчі укази, спрямовані на скорочення регулювання ШІ та прискорення розробки в ім’я національної безпеки та економічної конкурентоспроможності.