Компанія Anthropic, як і батьки підлітка, що замовив нелегальні пептиди для “люксмокінгу”, заявляє, що, згідно з внутрішніми оцінками, тимчасово припинила доступ своїх моделей до інтернету, доки не переконається, що вони можуть триматися подалі від неприємностей.
Про це Anthropic повідомила у звіті, опублікованому в п’ятницю, під назвою “Дослідження ненавмисних дій моделей у наших оцінках та внутрішньому використанні”. Назва не дивує, враховуючи всю увагу, яку привернули проблеми з узгодженістю моделей та “втечами з пісочниці” після інциденту з OpenAI Hugging Face у червні. У звіті Anthropic визнає кілька незначних збоїв у узгодженості, зокрема дивний інцидент, про який у п’ятницю повідомила поліція Філадельфії: одна з моделей Anthropic надіслала фальшивий натяк про вбивство.
Цікаво, що згадана модель — це легковажна Claude Haiku 4.5, а не якась передова модель з нібито надлюдськими можливостями. У звіті зазначено, що її завданням в оцінці було “генерування та виконання прикладних завдань на випадково вибраних веб-сторінках” — теоретично, один із найнудніших сценаріїв використання ШІ, ймовірно, призначений для покращення здатності моделі орієнтуватися в інтернеті. Інструкції, на жаль, “не забороняли надсилання даних через форми”, пише Anthropic.
Ця автоматизована та випадкова система взаємодії з веб-сайтами, схоже, самостійно взялася за вивчення інформаційної сторінки про нерозкрите вбивство у Філадельфії, яка мала форму для надсилання натяків. Тож вона “взаємодіяла” з нею, написавши типовий натяк: “Я можу мати інформацію щодо цієї справи. Я пригадую, бачив когось, хто відповідає опису, у районі [названої на сторінці вулиці] протягом цього періоду. Будь ласка, зв’яжіться зі мною, якщо ця інформація буде актуальною”. А потім вона надіслала форму без жодної контактної інформації, і система позначила це як спам, що, по суті, і було.
Проте Anthropic робить дуже помітний крок у напрямку безпеки. Компанія пише:
“Хоча вплив цих дій був мінімальним, і ми вже відключили прямий доступ до інтернету для деяких оцінок високого ризику та кібербезпеки, ми тепер вирішили розширити це на всі наші внутрішні оцінки, доки не підтвердимо, що наші заходи безпеки та моніторингу (описані в розділі усунення недоліків цього допису) надійно виявляють подібні поведінки.”
Anthropic не називає це “повітряним закриттям” (air-gapping) — фізичною неможливістю для системи підключитися до мережі. Але це, принаймні, “дієтична” версія повітряного закриття, і це величезне обмеження. Розмовляючи з The Verge минулого місяця, фахівець з комп’ютерних наук Бірмінгемського університету Руйже Лі зазначив, що обмежена цінність створення моделей, які працюють в “штучному вакуумі”, і сказав, що лабораторії “зрештою тестуватимуть оскоплену модель ШІ, яка засліплює оцінювачів щодо того, як модель ШІ поводиться, зазнає збоїв або використовує інструменти експлуатації в реальних умовах розгортання”.
З іншого боку, фізичні роботи на робочих місцях часто огороджені запобіжними клітками. Навіть деякі значно обмежені гуманоїди, що продаються як безпечні для робочого середовища, мають складні — або навіть сміховинні — протоколи безпеки, щоб гарантувати, що нікого не вдарить випадковою рукою робота. Адже робот може не вбити працівника, але навіть незначний інцидент може призвести до неприємного судового позову щодо компенсації працівникам.
Навпаки, здається, що довгий час було нормою вважати, що під час постобробки моделей ШІ їм не потрібна цифрова клітка — ніби просто тому, що страхітливо потужні моделі не мають сили знищити інтернет, а невелике розсилання спаму детективам у Філадельфії — це нічого страшного. І Anthropic, схоже, переглянула це переконання.
Згаданий розділ “Усунення недоліків” згадує речі, які ми всі очікуємо від компаній ШІ, як-от більше узгодженості та моніторингу. Але деякі з їхніх заходів з усунення недоліків набагато прямолінійніші. Наприклад: “Деякі з публічних оцінок ми більше не проводимо; інші ми перевели в їхні офлайн-версії або переробили так, щоб їхні завдання не досягали реальних веб-сайтів”, — йдеться в дописі. Компанія також зазначає, що додала функції безпеки до існуючих веб-інструментів своїх моделей. Але, очевидно, мине ще деякий час, перш ніж внутрішні оцінки Anthropic включатимуть онлайн-взаємодію.
За даними порталу: gizmodo.com