Найвпливовіші діячі сфери штучного інтелекту закликають сповільнити темпи розробки, але політики, зокрема президент Трамп, наполягають на зворотному.
Кілька провідних спеціалістів у галузі штучного інтелекту (ШІ) висловили серйозне занепокоєння щодо нестримного розвитку цієї технології, попереджаючи про потенційні катастрофічні наслідки. Вони закликають до сповільнення темпів розвитку, проте політичні лідери, зокрема президент Трамп, ставлять під сумнів такі заклики, наголошуючи на важливості збереження лідерства США у цій сфері, особливо в контексті конкуренції з Китаєм.
Генеральний директор Anthropic Даріо Амодеї опублікував есе, в якому попереджає про такі ризики, як біотероризм та “серйозні економічні збої”, що можуть виникнути внаслідок розвитку ШІ. Він запропонував галузі “сповільнити темпи покращення можливостей моделей ШІ”. Це сталося невдовзі після того, як його компанія зазнала критики через заяви колишнього співробітника, який стверджував, що розробники ШІ “щиро вірять, що він може вбити нас усіх до кінця десятиліття”.
Генеральні директори OpenAI Сем Альтман та SpaceX Ілон Маск висловили підтримку позиції Амодеї. Альтман навіть зазначив, що поточна ситуація щодо безпеки впливає на рішення компанії відкласти довгоочікуване IPO до наступного року.
Деякі з побоювань, висловлених Амодеї, давно поділяються громадськістю. Зростають заклики до посилення регуляторного нагляду та запровадження суворіших обмежень, оскільки галузь ШІ переживає серйозну кризу довіри. Репутація технології значно постраждала за останні кілька місяців, оскільки її вплив на різні сфери – від війни до ринку праці, навколишнього середовища та навіть комунальних платежів – став більш очевидним для громадськості.
Проте політики, зокрема президент Трамп, виступають проти як регуляторного нагляду, так і сповільнення прогресу в розвитку ШІ. У своїй заяві у соцмережі Truth Social Трамп назвав громадський спротив неконтрольованому розвитку ШІ “хворою змовою”, яка лише вигідна Китаю.
«Єдиний контроль чи “обмеження”, які потрібні ШІ – це СИЛЬНИЙ ТА РОЗУМНИЙ (Високий IQ!) ПРЕЗИДЕНТ, а США має це, і в надлишку! Адміністрація Трампа не дозволить “людям” ШІ робити погані, або потенційно погані, “речі”, як Даріо (Anthropic!), який тепер вдає з себе “маленького ангела” – і ми будемо продовжувати це робити!» – заявив Трамп. «ХТО ПЕРЕМОЖЕ У ШІ, ТОЙ І ПЕРЕМОЖЕ! Ми випереджаємо Китай та всіх інших, і будемо продовжувати це робити. Теорісти змов, зрадники, дезертири та викривачі, БІЙТЕСЯ!»
Цей конфлікт відбувається на тлі глобальних зусиль адміністрації Трампа щодо зменшення регуляторного тиску на галузь ШІ. На початку місяця лідери світової економіки зустрілися в Північній Кароліні на засіданні G20. Адміністрація Трампа завершила зустрічі, представивши “Каролінські принципи” – документ, що закликає найбільші світові економіки до менш жорсткого підходу до регулювання ШІ. Провідні керівники компаній ШІ, включно з Альтманом та співзасновником Anthropic Томом Брауном, брали участь у переговорах, організованих міністром торгівлі Говардом Лютніком.
Аргумент полягає в тому, що уряди повинні утримуватися від посилення регуляторних заходів, натомість довіряти компаніям ШІ забезпечувати безпеку, інакше Китай випередить США у глобальній гонці ШІ. Однак деякі експерти вважають, що слабке регулювання може призвести до ще гірших наслідків, ніж його повна відсутність.
Anthropic – не єдина компанія, яка висловила намір сповільнити розробку ШІ. Microsoft опублікувала кодекс поведінки, зобов’язавшись обмежити можливості моделей ШІ, а Сем Альтман в інтерв’ю заявив, що OpenAI буде частіше брати паузи під час розробки нових моделей.
«Якщо ви думаєте: “О, OpenAI не буде брати паузи, бо боїться, що це коштуватиме їм грошей”, то ви нас дуже глибоко не розумієте», – сказав Альтман.
Принаймні деякі члени Конгресу, схоже, переконалися цими обіцянками. Спікер Палати представників Майк Джонсон поклав відповідальність на конкуренцію з Китаєм і заявив, що Конгрес не повинен регулювати ШІ, а натомість довіряти розробникам ШІ відповідальність за безпеку.
Тим часом Китай також висловлює невдоволення есе Амодеї, особливо щодо його застережень щодо китайських досягнень у сфері ШІ. У своєму есе Амодеї зазначає, що розробку ШІ слід сповільнити, але не настільки, щоб Сполучені Штати відстали від темпів розвитку Китаю. Він стверджує, що якщо Китай випередить США і стане глобальним лідером у сфері ШІ, це становитиме «серйозну небезпеку» для всього світу і надасть Пекіну можливість «мілітарно домінувати над демократіями».
На вихідних китайські офіційні особи опублікували заяви, в яких відкинули занепокоєння Амодеї щодо китайської переваги у глобальній розробці ШІ як «поширення страху», водночас висловлюючи власні побоювання щодо використання генеративних технологій ШІ та їхнього впливу на Китай. У заяві Міністерства державної безпеки Китаю стверджується, що «ворожі сили та особи з прихованими мотивами» використовують ШІ для розробки «атаки на громадську думку та когнітивної війни проти Китаю», за даними Financial Times.
Усі ці заяви та кодекси поведінки досягнуть кульмінації пізніше цього місяця, коли президент Трамп і президент Китаю Сі Цзіньпін зустрінуться у Сполучених Штатах 24 вересня. Сем Альтман припустив, що якщо дві держави досягнуть угоди щодо розвитку ШІ, то і Сі, і Трамп заслужать Нобелівську премію миру, враховуючи одержимість Трампа цією нагородою.