Люди можуть не помітити перехід влади до ботів.
Генеральний директор OpenAI Сем Альтман своїми поглядами на майбутнє штучного інтелекту. У ході недавнього виступу його попросили розповісти про найбільш тривожні сценарії, пов'язані з ІІ, які викликають у нього занепокоєння та «позбавляють сну». Керівник компанії, що стоїть за ChatGPT, виділив три найбільш лякаючі ситуації.
Сценарій 1: «Погані хлопці одержують суперінтелект першими»
Звучить як сюжет науково-фантатичного фільму: якась група не найдобріших людей поширює ультра-просунуту ІІ-систему, яка перетворить життя звичайних людей на пекло.
Наприклад, подібна технологія потрапляє не в ті руки, решті світу поки нема чого їй протиставити, і лиходії вирішують використовувати надінтелект для розробки біологічної зброї, щоб вивести з ладу енергосистему Сполучених Штатів, зламати фінансову систему та викрасти всі гроші американців.
Розробник зазначив, що потенціал ІІ у сферах біотехнологій та кібербезпеки вже «досить великий», і його команда «невпинно попереджає про це», проте ці слова поки що не сприймаються всерйоз.
Сценарій 2: Інциденти зі «втратою контролю»
За такого розвитку подій штучний інтелект може почати ігнорувати запити людини, відмовлятися виконувати поставлені завдання або навіть самоналаштовуватися, дотримуючись власних бажань. “З урахуванням того, що системи стають все більш потужними, така проблема може стати реальністю”, – зазначив глава OpenAI.
Сценарій 3: «ІІ випадково захоплює світ»
Альтман припускає і такий розвиток подій, причому це може статися майже непомітно суспільству. Нейросети можуть настільки глибоко інтегруватися у повсякденне життя, що стануть незамінними. На його думку, захоплення може навіть не викликати негативної реакції у людей.
Глава OpenAI також припустив, що в майбутньому президент США може довірити ІІ управління країною, передавши йому значну частину прийняття рішень зі схвалення суспільства.
Обговорюючи штучний інтелект у ширшому контексті, Альтман підкреслив, що передбачити його розвиток та вплив є вкрай складним, незважаючи на заяви багатьох експертів про протилежне. “Це нова і надто складна система [для точного прогнозування]”, – зазначив він.
А як ви вважаєте, який сценарій розвитку ІІ може стати найнебезпечнішим? Діліться думкою у коментарях.
