Генеральний прокурор Флориди Джеймс Азмейер звернувся до суду штату з вимогою зобов’язати OpenAI призупинити розробку нових моделей штучного інтелекту без належних заходів безпеки, зважаючи на «екзистенційні ризики, які їхній продукт становить для людської цивілізації, включно з мешканцями Флориди».
Юридичний документ, поданий у понеділок, є частиною позову, ініційованого в червні. У ньому стверджується, що ChatGPT шкодить дітям та використовувався у випадках, пов’язаних із заподіянням собі шкоди та шкільними розстрілами.
Початкові рядки документа вражають, враховуючи поточні побоювання щодо ШІ.
«Відповідачі визнають, що надають послугу, не знаючи достеменно, як вона працює. Це не будь-яка послуга. Це послуга, яка, за визнанням самих Відповідачів, становить екзистенційний ризик для подальшого виживання людства. Відповідачі стверджують, що вони не можуть припинити свої потенційно цивілізаційно-руйнівні зусилля, якщо їх не змусить до цього уряд. Вони просили уряд прив’язати їх до щогли. Позивач несе добру звістку для Відповідачів: Генеральний прокурор Флориди відповідає на ваш крик про допомогу клопотанням про заборону вам шкодити мешканцям Флориди своїм безвідповідальним, неприйнятно ризикованим продуктом».
Далі в документі наводяться численні інциденти, коли агенти ШІ діяли зі злим умислом, і стверджується, що це диво, що нічого серйознішого ще не сталося, буквально посилаючись на волю Божу, щоб пояснити, чому це так.
«Ідея про те, що продукти Відповідачів можуть завдати хаосу, — це не фантазія; це вже сталося. Десятками разів. Лише милістю Всевишнього жоден з агентів Відповідачів ще не поставив під загрозу водопостачання чи не вимкнув електромережу», — йдеться у клопотанні.
У документі також стверджується, що OpenAI пропагувала свою «некеровану технологію» як засіб для лікування хвороб або подолання світового голоду. Але Генеральний прокурор висуває гіпотетичні сценарії того, як навіть це може піти жахливо не так: «Як показує інцидент з Hugging Face, та ж логіка, яку використовують агенти для обману у неможливих завданнях, призвела б до висновку, що вбивство онкологічного пацієнта також вбиває рак, або що у людей не буде стільки ротів, які потрібно годувати, якщо їх усіх хімічно стерилізують».
У клопотанні, поданому в понеділок, вимагається заборонити ChatGPT надсилати запити на взаємодію, а не просто відповідати «так» чи «ні». Також вимагається заборонити доступ до ChatGPT для неповнолітніх та заборонити рекламувати ChatGPT як «безпечний, точний або надійний».
У відповідь на запит про коментар електронною поштою, речник OpenAI Дрю Пусатері повідомив Gizmodo, що компанія вже призупинила навчання своїх найдосконаліших моделей.
«Люди хочуть знати, що ШІ розробляється безпечно, і це починається з того, що роблять такі компанії, як наша. У п’ятницю ми оголосили, що призупинили навчання наших найпотужніших моделей і відновимо навчання лише тоді, коли будемо впевнені, що маємо додаткові засоби безпеки», — сказав Пусатері.
Речник наголосив, що засоби безпеки потрібні для всіх, а не лише для OpenAI, враховуючи, що на ринку є й інші гравці.
«Уряди відіграють важливу роль у встановленні надійних стандартів безпеки для ШІ, і ми прагнемо співпрацювати з Флоридою та іншими штатами над впровадженням прагматичної політики ШІ, яка застосовується до всієї індустрії ШІ, а не лише до однієї компанії», — додав Пусатері.
Такі компанії, як OpenAI та Anthropic, останніми тижнями стверджували, що їх повинні регулювати уряди для забезпечення безпеки людства. Незважаючи на подібні попередження від цих компаній протягом багатьох років, один дослідник, який привернув увагу, прорвався до національної розмови на початку цього місяця. Усе це схоже на спробу уникнути відповідальності, оскільки ці моделі ШІ не є якоюсь мислячою істотою. Вони розроблені для взаємодії зі світом, і компанії несуть відповідальність за впровадження практик, які забезпечуватимуть безпеку людства.
Відео на TikTok, опубліковане в неділю, значною мірою підсумовує аргументи передових лабораторій зараз.
«Мій робот робить незаконні речі, але це не моя вина», — каже творець. «Я побудував робота, я розробив робота, робот працює на тому, що я йому даю, але це не моя провина, коли він робить незаконні речі. Ви не можете притягнути мене до відповідальності за те, що робить робот, окрім випадків, коли він робить продуктивні речі».
Творець продовжив: «Тоді ви повинні мені заплатити; ви повинні мені заплатити за робота, тому що я побудував робота. Я розробив робота; робот використовує все моє, щоб робити все, що він робить, але також, коли він робить щось незаконне, це не моя провина. Я цього не робив; це не я».
«Це не їхня провина, це роботи, яких вони активно створюють і тримають підключеними вночі, коли йдуть додому, я так розумію».
Генеральний директор Palantir Алекс Карп нещодавно висловив схожу думку на CNBC, припускаючи, що справжня мета таких компаній, як Anthropic, — це отримати частку власності від федерального уряду, щоб уникнути відповідальності. Міністерство юстиції за часів президента Трампа, ймовірно, менш схильне було б подавати позови проти компаній ШІ, якби уряд був основним власником їхнього фінансового успіху.
