Компанія OpenAI заявила, що використала власні ШІ-моделі для виявлення так званого корпоративного шпигуна. За їхніми словами, вони передали його ФБР, яке провело арешт 9 жовтня.
Співробітник працював у відділі продуктів OpenAI з липня минулого року, повідомляє компанія Gizmodo.
Згідно з інформацією OpenAI, компанія регулярно проводить перевірки безпеки. Під час однієї з таких перевірок конференц-зали 30 вересня, контрзаходи технічного спостереження виявили щось підозріле.
У заяві, наданій Gizmodo, згаданий пристрій описується як «витончений пристрій для запису».
Пристрій здійснював аудіозапис і міг використовуватися для передачі даних, як стверджує OpenAI. Компанія зазначає, що пристрій використовував шифрування та був розроблений для непомітної роботи.
За даними OpenAI, пристрій зберігав дані. Слідчим компанії вдалося передати форензичні образи цього сховища та деякі зміни даних до власних ШІ-моделей. У поєднанні з аналізом слідчих, цей процес, доповнений ШІ, дозволив компанії виявити підозрюваного.
OpenAI стверджує, що є докази, які свідчать про те, що цей самий співробітник планував встановити додаткові пристрої.
Захист ШІ-технологій від державних суб’єктів вважається пріоритетом. Наприклад, міністр фінансів США Скотт Бессент висунув ідею введення санкцій проти Китаю за нібито копіювання функціоналу ШІ-моделей, що вимагає мінімальної секретності, не кажучи вже про будь-яке прослуховування офісу OpenAI.
У заяві OpenAI йдеться про те, що компанія «не має жодних ознак того, що ця особа неналежним чином отримувала доступ або викрадала ваги моделей, вихідний код або дані клієнтів», і що з ним було припинено співпрацю.
За словами OpenAI, звільнення та арешт підозрюваного відбулися 9 жовтня, більш ніж через тиждень після виявлення пристрою. Тим часом, як зазначає компанія, обсяг роботи підозрюваного та його доступ до систем поступово обмежувалися під час поглибленого розслідування. Це згортання роботи, очевидно, завершилося повним припиненням доступу, після чого було вилучено обладнання особи, і її було відсторонено від роботи.
«Ми серйозно ставимося до захисту наших технологій, даних і людей, і це питання національної важливості. Наша програма безпеки розроблена для захисту від широкого кола загроз, від внутрішніх ризиків до кіберзлочинців і державних акторів, і цей випадок є прикладом того, як ШІ може допомогти вирішити ці складні загрози безпеці».
«Розслідування ФБР триває, і ми продовжуватимемо підтримувати їхню роботу», — зазначено в заяві компанії.
Оригінал статті: gizmodo.com