Назва компанії Anthropic, що займається розробкою штучного інтелекту, була сформована як “антропос” (людина) плюс “біос” (життя), що означає “людське життя”. Однак, схоже, компанія може не бути так стурбована майбутнім людства, як хотілося б. Згідно з нещодавніми заявами колишнього дослідника компанії, провідні компанії зі створення штучного інтелекту, включно з Anthropic, можуть бути на шляху до створення неконтрольованої системи, яка може призвести до кінця людства.
Якоб Коксон, 27-річний колишній дослідник Anthropic, нещодавно висловив свою стурбованість у публікації на платформі X. Він зазначив, що “жодна інша людська діяльність не несе такого рівня небезпеки”, як гонитва за розвитком штучного інтелекту. Коксон вважає, що така конкуренція між компаніями може призвести до того, що люди втратять контроль над ШІ.
Коксон працював у Anthropic над “тренуванням нових моделей ШІ шляхом їхнього завантаження величезними обсягами даних”. Він заявив, що не хоче брати участь у гонці, де компанії прагнуть якнайшвидше досягти стану, коли люди вже не зможуть контролювати ШІ. “Я не відчуваю, що ми рухаємося в правильному напрямку, щоб запобігти глобальній гонці, яка може потребувати таких дорогих заходів, як тимчасова заборона на вдосконалення можливостей моделей”, – написав він.
Даріо Амодеї, співзасновник і генеральний директор Anthropic, поділяє подібні погляди, хоча його заяви часто звучать обережніше. У своїх численних публікаціях він описує потенційні ризики, пов’язані з ШІ, і зазначає, що “системи ШІ непередбачувані і важко контрольовані”. Він також порівнює процес тренування ШІ з “вирощуванням” чогось, а не “будівництвом”, де “багато що може піти не так”.
Коксон підкреслив, що такі заяви не є маркетинговим трюком. За його словами, багато топ-менеджерів та старших дослідників, хоч і говорять в пресі більш стримано, в приватних розмовах висловлюють подібні побоювання. “Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття”, – додав він.