Штучний інтелект стверджує, що цей фейковий образ реальний. Це останній приклад того, як сфабриковані зображення можуть спотворити нашу колективну пам’ять про 11 вересня.
Веллс Кроутер став відомий як “Людина в червоній бандані” після того, як поширилися історії про його героїзм 11 вересня 2001 року. Тепер в мережі вірусно поширюється зображення, згенероване ШІ, яке нібито показує Кроутера, що рятує людей зі Світового торгового центру. Це останній приклад того, як сфабриковані зображення можуть спотворити нашу колективну пам’ять про 11 вересня для майбутніх поколінь.
24-річний Кроутер працював на 104-му поверсі Південної вежі Світового торгового центру, коли в неї врізався літак того фатального дня. Кроутер, біржовий трейдер, також був добровольцем-пожежником і, як вважається, допоміг врятувати життя щонайменше дюжині людей. Він, як повідомляється, допомагав спрямовувати людей до єдиного працюючого сходової клітки і навіть сам ніс деяких людей вниз сходами. Він загинув, коли Південна вежа обвалилася.
Президент Дональд Трамп нагородив Кроутера Президентською медаллю Свободи у вівторок і, як завжди, президент мав зробити це про себе, наполягаючи, що йому не подобається, що людина в червоній бандані стала набагато знаменитішою за нього.
“Людина в червоній бандані. Ви чули про нього? Він став знаменитішим за мене. Мені це не подобається. Дуже нещасливий. Але він став набагато знаменитішим за мене.”
Історія героїзму Кроутера є цілком реальною, згідно з численними свідками, але зображення, яке зараз вірусно поширюється, не є таким. Немає жодних відомих фотографій Кроутера під час подій 11 вересня.
Однією з головних проблем поширення зображень, створених ШІ, є ненадійність детекторів зображень ШІ. Gizmodo перевірив зображення вище за допомогою ChatGPT і запитав, чи воно було створено за допомогою ШІ. Відповідь ChatGPT: “Дуже ймовірно, що воно не згенероване ШІ. Воно виглядає як справжня історична фотографія, а не зображення, створене ШІ”.
У поясненні ChatGPT далі стверджувалося, що зображення має риси, “які ви очікуєте від справжньої новинної фотографії”, і що воно “відповідає фотографіям, зробленим під час евакуації Світового торгового центру після нападів 11 вересня”.
Коли Gizmodo завантажив зображення в Grok, чат-бот стверджував, що це “відома фотографія з терористичних актів 11 вересня 2001 року”, але коли його запитали, чи вона автентична, Grok нарешті визнав, що вона може бути підробкою.
Claude сказав, що зображення є фотографією, але, ймовірно, драматизацією, а не створеним ШІ. Коли я попросив Claude зробити зворотний пошук зображень, чат-бот відповів, що він “підтвердив”, що зображення походить з документального фільму або подібного, який зображував події, і не було створено за допомогою ШІ: “Отже, щоб прямо відповісти на ваше запитання: ні, це не виглядає як згенероване ШІ — це фотографія реконструкції/драматизації…”
Вичерпний документальний фільм про Кроутера, “Man In Red Bandana” (2017), справді містить актора, який дуже коротко відтворює деякі його дії під час порятунку людей, але це не відповідає зображенню ШІ, яке зараз вірусно поширюється. Актор, який грає Кроутера в цьому документальному фільмі, одягнений у білу футболку, а не в сорочку та краватку.
Коли ми спробували Gemini і запитали, чи має зображення водяний знак SynthID, який додається до всіх зображень, створених інструментами ШІ Google, чат-бот відповів, що не може це перевірити. Google відкрив виявлення SynthID для всіх користувачів Gemini минулого року, тому це була дивна заява. Після наполягань, чат-бот сказав, що ми мали рацію, що ця функція була додана, і Gemini не виявив SynthID. Галюцинації та початкова відмова перевірити, безумовно, повинні змусити нас задуматися, коли ми покладаємося на засоби безпеки, які компанії ШІ нібито створили для нас, щоб перевіряти нашу власну реальність.
Дещо дивним чином, AI Overview від Google стверджує, що зображення є “драматичною сценою з телевізійного мінісеріалу 1999 року ‘Aftershock: Earthquake in New York'”, що є неправдою і відносить зображення до періоду до терористичних актів 2001 року.
Зображення не є справжнім і, безумовно, було створено за допомогою ШІ. Будь-хто може це побачити, просто подивившись на нього, не кажучи вже про те, що зворотний пошук зображень показує, що воно, ймовірно, ніколи не було опубліковано до цього тижня. Інші зображення Кроутера, створені ШІ, також з’явилися цього року, як-от це з Facebook.
Приблизно 25% американців, які живуть у 2026 році, ще не народилися 11 вересня 2001 року. Зображення, які залишаються і поширюються онлайн, формують наше розуміння того дня. І в мережі циркулює багато інших зображень ШІ, які нібито показують, що сталося того дня. Навіть коли базові події ґрунтуються на реальності, фейкові зображення спотворюють наше розуміння історії.
Деякі аспекти цього не є зовсім новою проблемою. Тут, у Gizmodo, ми провели значну частину 2010-х років, спростовуючи фейкові історичні зображення, створені за допомогою інструментів типу Photoshop. Але стара школа Photoshop мала певні перешкоди. Користувачі повинні були мати певний рівень майстерності та витратити деякий час на створення підробок. Сьогодні будь-хто може створити фейкове зображення, використовуючи лише слова, і отримати фотореалістичний результат за секунди.
Цей низький поріг входу створив середовище, де ми часто відмовляємося вірити в реальні речі, тому що вони могли бути створені ШІ. Люди, як-от Дональд Трамп, навіть експлуатують це, наполягаючи на тому, що автентичні фотографії та відео повинні бути ШІ, тому що вони незручні для його наративу. Вірте чи ні, таких випадків було багато. І від цього ми всі стаємо набагато дурнішими.