Останніми тижнями прогнози про апокаліпсис, спричинений штучним інтелектом, стали мемом. Але технологічні магнати говорять про це значно довше.
Здається, останніми роками Кремнієва долина говорила лише про те, наскільки чудовим буде майбутнє людства завдяки штучному інтелекту. Персоналізована освіта, лікар-терапевт, доступний 24/7, ліки від усіх хвороб та подолання бідності – практично все, чого ми можемо бажати, буде доступне за кілька запитів. Але за останні два тижні настрій помітно змінився. Раптом, здається, замість жадібного очікування нової золотої доби, панує страх.
Кілька інсайдерів з індустрії ШІ з початку вересня говорять про те, що вони вважають екзистенційною загрозою для людства, яка виникає через гонку галузі зі створення систем, здатних без людського контролю розробляти власні вдосконалені версії. Ця техніка відома як «рекурсивне самовдосконалення» (RSI). Ніхто, звісно, не знає, як саме такий майбутній суперінтелектуальний ШІ може знищити людську расу, хоча було запропоновано багато похмурих гіпотетичних сценаріїв.
Збоку ці прогнози можуть здатися раптовим прозрінням для індустрії ШІ, ніби технологія раптом подолала критичний поріг можливостей, і люди, які її розробляють – які досі вважали, що працюють над чимось абсолютно нешкідливим – раптом прокинулися й усвідомили: «Боже мій, що ми робимо?». Але те, що ці апокаліптичні прогнози домінують у заголовках останні два тижні, не означає, що це нове явище. Насправді, вони тягнуться від самих витоків сучасної індустрії ШІ (і навіть раніше), глибоко формуючи її ідеологічну основу.
В їхній основі лежать дві рушійні, небезпечні ідеї: (1) що поява систем суперінтелекту є історичною неминучістю, невідворотним і цілком природним наступним кроком в історії еволюції на Землі, і (2) що такі системи, з усією їхньою могутньою силою, зможуть не тільки позбавити людство від деяких із найскладніших проблем, але й потенційно знищити нас.
Сем Альтман
«Я думаю, що ШІ, ймовірно, скоріше призведе до кінця світу».
Цю ремарку Сем Альтман зробив на сцені під час технологічної конференції в червні 2015 року, приблизно за шість місяців до того, як він, студент, який кинув Стенфорд, став співзасновником OpenAI. Але не хвилюйтеся, бо він додає застереження: «але тим часом будуть створені чудові компанії з серйозним машинним навчанням». (Полегшало?) У 2023 році OpenAI написала у блозі, що суперінтелект може «бути дуже небезпечним» і «призвести до позбавлення людства влади або навіть до вимирання людей».
Ілон Маск
«За допомогою штучного інтелекту ми викликаємо демона».
У 2014 році, за дев’ять років до того, як Маск заснував власну компанію xAI, щоб конкурувати з OpenAI, Anthropic та Google, він уже порівнював прагнення Кремнієвої долини до штучного інтелекту з викликом злої сили, яку людство не могло ані зрозуміти, ані контролювати. Це попередження передбачало багато аргументів, які зараз знову спливають: що розробка ШІ відбувається швидше, ніж наша здатність забезпечити, щоб ці системи залишалися узгодженими з людськими інтересами та цінностями.
Даріо Амодей
ШІ «може стати певною загрозою для людства».
Колишній віце-президент з досліджень в OpenAI, Амодей пішов з компанії в грудні 2020 року, щоб разом із сестрою Даніелою заснувати Anthropic. Вони позиціонували компанію як голос відповідальності та безпеки в індустрії, яка, на їхню думку, безвідповідально надавала пріоритет ринковій домінації над узгодженістю. Ця цитата, сказана навесні 2022 року під час інтерв’ю для Future of Life Institute (трохи більше ніж через рік після заснування Anthropic), дає уявлення про його мислення на той час.
Він визнав, що майбутні системи ШІ можуть стати екзистенційною загрозою для людства — «у довгостроковій перспективі, — продовжив він, — цей аргумент видається нам принаймні потенційно обґрунтованим» — і відтоді позиціонував Anthropic як єдину компанію, якій можна довіряти, щоб безпечно провести появу суперінтелекту. Зовсім недавно він заявив, що шанси, що ШІ «дуже катастрофічно піде не так», становлять від 10% до 25%. Важливо пам’ятати, однак, що ці цифри, які часто називають «p(doom)» (скорочення від «ймовірність кінця світу»), є лише особистими припущеннями, а не ґрунтуються на жодному об’єктивному розрахунку.
Ларрі Пейдж
«Цифрове життя – це природний і бажаний наступний крок» у «космічній еволюції».
У 2014 році Google придбала піонера ШІ DeepMind приблизно за 650 мільйонів доларів. У 2015 році співзасновник і колишній генеральний директор Google Ларрі Пейдж зробив вищезгадану цитату професору Массачусетського технологічного інституту Максу Тегмарку під час суперечки на вечірці. Заява Пейджа занурює нас у досить трансгуманістичну територію, але натякає на глибокий ідеологічний підтекст, що пронизує сучасну технологічну індустрію. А саме: людству незабаром доведеться поступитися місцем нашим машинам-наступникам, і це еволюційне передання естафети є як «природним», так і «бажаним».
Це відлуння тієї ж філософії, яку висловив піонер робототехніки Ганс Моравек, який у 1999 році, за рік після заснування Google, написав, що машини можуть зрештою «витіснити [людство] з існування», і що нам було б мудро «надати їм усі переваги і відступити, коли ми більше не зможемо зробити свій внесок».