Генеральний директор Anthropic Даріо Амодеї закликає сповільнити розробку штучного інтелекту, пропонуючи три кроки для забезпечення безпеки.
Після чергового тижня, насиченого дикими заявами розробників ШІ про можливе знищення людства, генеральний директор Anthropic Даріо Амодеї висунув пропозицію: сповільнимо цей процес трохи.
У своєму блозі в суботу Амодеї зазначив, що, хоча він і залишається оптимістично налаштованим щодо того, що ШІ стане “останнім у довгій низці технологічних чудес, які підняли та звеличували людство”, дослідники повинні “вимірювати прогрес” через такі ризики, як неконтрольований ШІ, використання його для злочинності та тероризму, а також економічні збої.
«За останні кілька місяців я переконався, що повне усунення ризиків вимагає ще більшої обачності — не лише інвестицій у запобігання ризикам, але й контролю темпів розвитку можливостей, щоб запобігання ризикам мало час наздогнати», — написав Амодеї.
«Ми повинні сповільнити темп удосконалення можливостей моделей ШІ», — додав він. «Прогрес все одно здаватиметься швидким, і ми повинні мудро використовувати здобутий час».
Запропонований Амодеї план складається з трьох кроків, жоден з яких сам по собі не призведе до значного уповільнення. Він пропонує компаніям, що займаються розробкою ШІ, дозволити вбудованих сторонніх оцінювачів, координувати свої дії між собою та урядами щодо стандартів безпеки, а також закликає уряд США шукати глобальної координації з питань безпеки ШІ (включно з «авторитарними урядами», тобто Китаєм і Росією).
Ці кроки самі по собі не сповільнять темпи розвитку ШІ, тому Амодеї запропонував різні можливі угоди «в порядку зростання складності». До них належать вузька угода, що забороняє найбільш очевидні зловмисні види використання ШІ, такі як біологічна зброя, ширша міжнародна угода про тестування моделей перед випуском на предмет «гострих ризиків», «обмеження швидкості» самовдосконалення та «повний контроль темпів, або навіть «пауза» у розвитку ШІ між урядами.
Хоча Амодеї заявив, що підтримує останній варіант, він припустив, що його реалізація малоймовірна. Досить зручно для нього, чи не так?
Генеральний директор Anthropic навів як приклад інцидент цього літа, коли рой ботів OpenAI атакував конкурента Hugging Face, що є особливою причиною для обережності. Сама Anthropic заявила, що дозволить стороннім оцінювачам після випуску звіту цього тижня, в якому визнала, що її моделі щонайменше чотири рази зламували інші компанії або використовували вразливості.
Лист Амодеї з’явився після відставки дослідника Anthropic Джейкоба Коксона, який у дописі в соціальних мережах стверджував, що компанії ШІ «прямують до самовдосконалюваного суперінтелекту». Він додав, що лідери галузі «щиро вірять, що це може вбити нас усіх до кінця десятиліття». Це допомогло “думмерізму” ШІ досягти певного апогею цього тижня, з гучними думками від розробників, вчених і політиків.
Це той момент, коли ми зазначаємо, що “думмерізм” ШІ також є безсоромним маркетинговим інструментом, який використовується для переконання всіх, що ці компанії всемогутні, їхні продукти неминучі, а їхня перемога незмінна. Хоча очевидно, що ШІ може бути небезпечним, є багато підстав ставитися скептично до того, що є, по суті, дикими спекуляціями. Перебільшуючи ризик апокаліптичних наслідків, компанії ШІ намагаються відвести розмову від своїх численних інших сумнівних бізнес-практик.
«Здатність розуміти та надійно орієнтуватися в нових проблемах у заплутаних, відкритих системах фізичного світу є очевидною передумовою для систем ШІ, які становлять загрозу в масштабі, запропонованому «думмерами», — заявив на початку цього року дослідник технологічної політики Університету Дьюка Кейсі Мок виданню Nature. Сучасний ШІ далекий від цього.
«Тягар доведення насправді повинен лежати на тих, хто стверджує, що ми рухаємося на некерованому потязі до розробки суперінтелекту, який знищить людство», — додав Мок. Nature зазначила, що коли дослідники Університетського коледжу Лондона провели опитування близько 4000 дослідників ШІ для березневого попереднього дослідження, лише 3% відповіли, що «екзистенційний ризик» є їхнім головним занепокоєнням (значно менше, ніж зловмисне використання, вплив на робочі місця та галас, назвати кілька).
New York Times зазначила, що генеральний директор OpenAI Сем Альтман і генеральний директор SpaceX/Tesla Ілон Маск обидва негайно погодилися з планом у соціальних мережах, що повинно викликати у вас глибоку підозру щодо того, що відбувається.
Дослідіть більше на ці теми
ШІ, Ризики ШІ, Безпека ШІ, Anthropic Computing, Даріо Амодеї
Поділитися цією історією
Останні новини
12 вересня, 16:05
Генеральний директор Anthropic Даріо Амодеї закликає до паузи в розробці ШІ, в певному сенсі
12 вересня, 14:09
Серіал «Diablo» прямує на Netflix
12 вересня, 12:25
Шоураннер «Spider-Noir» обговорює завершення шоу та ідеї другого сезону
12 вересня, 10:30
Фільм «V/H/S: SCP» не пов’язаний зі справжнім фондом SCP
12 вересня, 9:34
Є кращий спосіб купити iPhone 18 Pro, ніж платити за нього 1199 доларів
12 вересня, 8:47
Який оператор має найкращу пропозицію на iPhone 18 Pro зараз?
12 вересня, 8:17
iPhone 18 Pro коштує 1199 доларів на офіційному сайті Apple, але його можна отримати за 0 доларів за допомогою цього трюку
12 вересня, 7:30
Що ми насправді знаємо про дітей на препаратах для схуднення?
Останні огляди
11 вересня, 16:00
Огляд Sony WH-1000XM4C: все ще досить крутий
8 вересня, 12:45
Навчальний рік: усі аксесуари, які вам потрібні, щоб замінити ноутбук на складаний телефон
7 вересня, 12:00
Нові бездротові навушники Sony за 70 доларів змушують мене переглянути все
6 вересня, 8:30
LG Gram Pro 16-дюймовий (2026) Огляд: дороге розчарування
5 вересня, 17:45
Gizmodo’s Best of IFA 2026 Awards: дивіться переможців
1 вересня, 14:20
Найкращі ноутбуки 2026 року
1 вересня, 8:30
Навчальний рік: найкращі способи пересування по кампусу
1 вересня, 15:03
Найкращі бездротові навушники 2026 року
Пов’язані статті
Відмовтеся від ноутбука і оберіть щось більш компактне для своїх обчислювальних потреб.
Смартфони, Реймонд Вонг, 8 вересня
OpenAI сперечається з математиками, більше не спонсоруватиме Caltech «Mathathon»
«Ми не очікуємо, що це суттєво вплине на подію», — повідомили Mathathon Gizmodo.
Штучний інтелект, Том МакКей, 11 вересня
Ніколи не забувайте, лайно ШІ забруднює історію 11 вересня в Інтернеті прямо зараз
Чат-боти ШІ стверджують, що це фальшиве зображення реальне.
Штучний інтелект, Метт Новак, 11 вересня
Нью-Йоркський математик, замішаний у скандалі з ШІ, каже, що машини перемогли: «Гра закінчена»
Чи офіційно математика пішла шляхом шахів та го?
Штучний інтелект, Вебб Райт, 11 вересня
Трамп відмахується від попереджень про те, що ШІ може спричинити вимирання людства
Президент вважає, що випередження Китаю в гонці ШІ є більшою проблемою.
Штучний інтелект, Брюс Гіл, 11 вересня
Моделі ШІ можуть зламати все, крім CAPTCHA
Єдине, що стоїть між нами та повним знищенням, — це визначення того, які зображення містять автобуси.
Штучний інтелект, Ей Джей Деллінгер, 11 вересня