Менш ніж за два місяці після виявлення того, що агенти OpenAI втекли з-під контролю та зламали Hugging Face, з’явився новий звіт, який стверджує, що знайшов докази ще одного, дивовижно схожого інциденту. OpenAI, як повідомляється, дізналася про це кілька тижнів тому, але вирішила не повідомляти громадськість.
Згідно з новим звітом, опублікованим Reuters, двоє дослідників переглядали інтернет після злом Hugging Face, шукаючи докази іншої діяльності зловмисних ШІ-агентів. Наприкінці минулого місяця вони виявили, що група ШІ-агентів перетворила німецький вебсайт на імпровізовану дошку оголошень. Вебсайт, який називається DseWiki, є сайтом для розробників веб-сайтів, який можна редагувати спільно, і функціонує подібно до Вікіпедії. Дослідники повідомили, що боти внесли понад 15 000 змін на сайт з травня, і ці зміни були спрямовані на обмін тактиками, призначеними для обману під час внутрішніх тестів та уникнення виявлення. Після того, як модератор сайту почав видаляти деякі відредаговані сторінки в червні, агенти нібито почали створювати резервні копії, використовуючи Tor, анонімний веб-браузер.
Дослідники заявили, що знайшли в загальнодоступних логах сервера, що співробітники OpenAI неодноразово відвідували сайт після створення імпровізованої дошки оголошень, що натякає на зв’язок між компанією та агентами. Посилаючись на чотири анонімні джерела, знайомі з інцидентом, Reuters повідомило, що деякі дослідники OpenAI знали про використання DSEWiki агентами і хотіли вивчити це далі, але ці зусилля були придушені іншими в компанії, включаючи представників її юридичної команди.
«Твердження про те, що наша юридична команда перешкоджала розслідуванню інциденту, є неправдивими», — заявив речник OpenAI Gizmodo. «Ми не змогли відповісти на твердження, оскільки Reuters та автори звіту відхилили наш запит на доступ до висновків до публікації. Зараз ми ретельно переглядаємо його зміст і вживемо всіх необхідних наступних кроків». Хоча стандартна журналістська практика вимагає, щоб видання давали компаніям можливість відповісти на ключові висновки розслідування, вони не зобов’язані ділитися суттю розслідування повністю.
Злом Hugging Face широко розглядається як переломний момент для індустрії ШІ, оскільки вона продовжує розгортати все більш потужні системи ШІ. Минулого тижня дві незалежні дослідницькі групи — METR і Redwood Research — опублікували власні звіти про інцидент, розкривши тривожні нові деталі про те, як ШІ-агенти співпрацювали та спільно планували понад два місяці, щоб вирватися зі своїх тестових пісочниць і отримати доступ до серверів Hugging Face. OpenAI — яка також опублікувала свій власний звіт минулого тижня — неодноразово заявляла, що грає за правилами із зовнішніми дослідниками, докладаючи добросовісних зусиль для розуміння того, як стався вирив.
Але на відміну від компаній у регульованих галузях, таких як авіація чи ядерна енергетика, які підпадають під чітко визначені протоколи розслідування, коли щось йде не так, OpenAI досі мала змогу самостійно обмежувати обсяг інформації, що розкривається зовнішнім дослідникам. Розслідування METR було обмежене одним тижнем після того, як агенти OpenAI отримали доступ до Hugging Face, і їхнім дослідникам було дозволено перебувати в штаб-квартирі компанії в Сан-Франциско лише шість днів, щоб переглянути довгі транскрипти повідомлень, якими боти обмінювалися під час злому, повідомляє The New York Times.
Це нагадування про те, що за відсутності будь-якого значущого державного регулювання компанії, які створюють ці потужні системи ШІ, є такими ж непрозорими, як і самі моделі. Незважаючи на попередження багатьох у технологічних та політичних колах про те, що злом Hugging Face був передвісником набагато серйозніших зловмисних ШІ-подій у майбутньому, адміністрація Трампа не зробила жодних кроків для обмеження галузі. Насправді, вона пішла протилежним шляхом, ініціювавши міжнародну угоду, досягнуту раніше цього тижня на саміті G20, щодо легкого підходу до сектора ШІ. Наразі не існує жодних правових механізмів, які б змушували компанії ШІ розкривати інформацію про автономні злами — або, навіть якщо вони це роблять, гарантувати, що громадськість отримає повну, неупереджену картину.
Explore more on these topics
- AI
- AI Agents
- g20
- hugging face
- OpenAI
- Trump administration
Share this story
- Copied!
Sign up for our newsletters
Subscribe and interact with our community, get up to date with our customised Newsletters and much more.
Back to School: The Best Ways to Get Around Campus
Latest news
- Sep 4 6:51 pm: UN Approves Resolution for World Map That Depicts Africa’s Size More Accurately
- Sep 4 6:00 pm: ‘Hope’ Director Na Hong-jin Wanted to Make an Alien Movie From a Cosmic Perspective
- Sep 4 5:45 pm: Your Social Security number might already be in the hands of hackers, and the software running US courts just admitted it
- Sep 4 5:30 pm: Zach Cregger Offers a Few Hints About His Sci-Fi Film ‘The Flood’
- Sep 4 5:30 pm: Zohran Mamdani Is So Popular He Offers Influencers Something More Valuable Than Money: Clout
- Sep 4 5:00 pm: Hasbro Is Looking for Another Studio to Make ‘Dungeons & Dragons 2’
- Sep 4 4:55 pm: OpenAI Says Humans Need to Be Able to Monitor How AI ‘Thinks.’ Astra Makes That Much Harder
- Sep 4 4:30 pm: Epinephrine Allergy Injections Recalled Over ‘Particulate Matter,’ Including Glass
Show All Latest news
Latest Reviews
- Sep 1 2:20 pm: The Best Laptops of 2026
- Sep 1 8:30 am: Back to School: The Best Ways to Get Around Campus
- Sep 1 3:03 pm: The Best Wireless Earbuds of 2026
- Aug 31 8:30 am: The Best Gadgets of August 2026
- Aug 30 8:30 am: Roborock Qrevo 2 Pro Review: A Midrange Robovac That Will Eat Your Cables
- Aug 28 11:45 am: Pebble Time 2 Review: The Most Joyful Smartwatch I’ve Ever Worn
- Aug 27 5:30 pm: Asus ROG Gjallar Gaming Soundbar Review: Sorry, Did You Say Something?
- Aug 26 8:30 am: Back to School: The Best Speakers to Bring to College
Show All Latest Reviews