Губернатор Каліфорнії Гевін Ньюсом видав розпорядження, яке передбачає розробку концепції “аварійного вимкнення” (kill switch) для найпотужніших моделей штучного інтелекту.
У документі наголошується на необхідності створення механізму “аварійного вимкнення” для передових моделей ШІ, ефективність якого має постійно перевірятися незалежною організацією.
Ньюсом заявив, що “абсолютна нездатність федерального уряду забезпечити будь-яку форму значущого нагляду чи підзвітності ШІ повинна тривожити кожного американця, особливо коли самі керівники ШІ благають про регулювання”.
Натомість, Президент Трамп, схоже, не відчуває тиску щодо реагування на страхи перед “апокаліпсисом ШІ”. Раніше цього тижня він назвав ці побоювання “розіграшем” і заявив, що ШІ стане “найбільшим двигуном економічного розвитку в історії”.
Цим кроком Ньюсом, який вже відомий своєю критикою на адресу Трампа, вкотре позиціонує себе як його прямого опонента. Він послідовно виступає за безпеку ШІ, наголошуючи, що значна частина індустрії базується саме в Каліфорнії.
Однак, чи може губернатор штату просто запровадити “аварійне вимкнення” ШІ своїм розпорядженням? Ймовірно, ні. Розпорядження радше закликає групу експертів терміново розробити відповідну концепцію.
Агентство державних операцій Каліфорнії та Офіс губернатора з надзвичайних служб мають зібрати рекомендації, однією з яких буде саме пропозиція щодо “аварійного вимкнення” для передових моделей ШІ. Реалізація цього механізму, ймовірно, стане відповідальністю наступного губернатора, оскільки термін повноважень Ньюсома закінчується 4 січня наступного року.
Як зазначив заступник губернатора Ксав’єр Бесерра, “нам потрібні реальні запобіжники для компаній, які мчать до суперінтелекту, перш ніж хтось доведе, що його можна контролювати”.
Раніше пропонувався законопроєкт про федеральне “аварійне вимкнення” ШІ, але він був заблокований сенатором-республіканцем. Документ покладав би відповідальність за додавання такого механізму на компанії, що розробляють передові моделі ШІ. Існує також двопартійна пропозиція, яка передбачала б надання Міністерству національної безпеки значних повноважень для припинення роботи неконтрольованих моделей ШІ.
Суть розпорядження Ньюсома в іншому: воно прискорює на рік терміни впровадження двох законів штату, спрямованих на створення регуляторних органів, що загалом підтримується компаніями, які займаються розробкою передового ШІ.