Дивні часи породжують дивних союзників. Сенсаційна заява колишнього співробітника OpenAI та Anthropic про загрози штучного інтелекту змусила об’єднатися навіть тих, хто ще кілька років тому здавався непримиренними опонентами. Сенатор Берні Сандерс, давній прихильник регулювання розвитку ШІ, та Стівен Беннон, колишній радник президента Трампа, візьмуть участь у конференції “За людство” (Pro-Human Assembly), організованій інститутом Future of Life.
Ця подія набула особливої актуальності після того, як Джейкоб Коксон, колишній працівник OpenAI та Anthropic, заявив про звільнення через занепокоєння щодо безпеки, звинувативши компанії у “гонитві за самовдосконаленням надрозуму та ризикуванні нашим життям”. За його словами, він працював над створенням ШІ, який може стати екзистенційною загрозою для людства. Ці побоювання підкріплюються заявами представників Anthropic, які допускають понад 10% ймовірність знищення людства штучним інтелектом до кінця десятиліття.
Ініціатива Future of Life Institute, спрямована на уповільнення розвитку ШІ та забезпечення контролю над ним, знайшла відгук у лідерів технологічної галузі. Так, співзасновник і генеральний директор Anthropic Даріо Амодеї закликав до співпраці між “передовими” ШІ-лабораторіями для уповільнення темпів розробки. Його заклик підтримали керівники OpenAI та SpaceXAI, а також колишній генеральний директор Google DeepMind. Натомість, президент США Дональд Трамп розглядає гонку озброєнь у сфері ШІ як можливість для США випередити Китай, незважаючи на потенційні ризики.
Берні Сандерс, у свою чергу, виступає за створення суверенного фонду для виплати американцям частки прибутків від ШІ та навіть за повну заборону надрозуму. Стівен Беннон назвав ШІ “найнебезпечнішою технологією в історії людства”.
Уточнення (11:51 за східним часом): Раніше в цій статті, як і в попередньому звіті Axios, зазначалося, що колишній працівник Anthropic Джейкоб Коксон візьме участь у вівторковій конференції “За людство”. Однак, за словами представника Future of Life, він не планує відвідувати захід.