Банки попереджають про ризики торговельних агентів зі штучним інтелектом
Агентська комерція може призвести до збільшення кількості шахрайств, обманів та суперечок, попереджають банки у новому звіті.
У документі, опублікованому у вівторок, шість великих світових банків, включаючи Bank of America та Capital One, попередили, що агентська комерція має «ризики, пов’язані з прозорістю, безпекою, конфіденційністю та даними, вибором та інтероперабельністю», які «зростають із наданням більшої автономії ШІ-агентам».
Розробники ШІ, а також різні роздрібні торговці та великі платіжні процесори працюють над запуском чат-ботів для агентської комерції, або ШІ-агентів, які обіцяють повністю автоматизувати процес онлайн-покупок. Однак оцінити масштаби впровадження виявилося складніше. Деякі споживачі використовують ШІ-чат-боти, щоб знаходити товари або отримувати інформацію про те, що купити під час онлайн-шопінгу, але багато хто досі не наважується дозволити агентам вільно переміщатися Інтернетом з доступом до їхнього повного бюджету.
«Споживачі не розуміють, чи діятимуть ШІ-агенти в їхніх інтересах», — йдеться у звіті. «Вони стурбовані тим, що ШІ-агенти можуть купити не той товар, витратити занадто багато — або, що ще гірше, втратити їхні гроші через шахрайство та обман».
Багато технічних експертів також не висловлюють повної впевненості у майбутньому агентської комерції.
Рон Джонсон, колишній керівник Apple, який стояв за оригінальними магазинами Apple Store, в нещодавньому інтерв’ю TechCrunch заявив, що, на його думку, ШІ «покращить досвід онлайн-покупок», але не змінить «спосіб, у який ми робимо покупки».
«ШІ ніколи не зможе дати вам можливість фізично відчути продукт», — сказав Джонсон. «Вони просто стануть більш поінформованими покупцями, коли прийдуть до магазину».
Шість банків, які спільно написали звіт під назвою «Побудова довіри в агентській комерції», схоже, погоджуються, що багато проблем і запитань все ще оточують цей випадок використання ШІ-агентів.
ШІ-агенти можуть надавати перевагу певним продуктам або методам оплати просто через стимули, такі як вищі комісійні та нижчі витрати на токени, замість того, щоб вибирати найкраще для клієнта.
Агентська комерція також має «потенціал до вищого рівня шахрайства, обману та суперечок», — йдеться у звіті, і будь-яке порушення даних поставить під загрозу особливо чутливі дані споживачів та продавців, які покладаються на цих агентів.
Наприклад, Meta нещодавно оголосила, що виявила та виправила вразливість нульового дня у своєму новому ШІ-асистенті Muse, який серед своїх заявлених можливостей включає агентські покупки. Ця вразливість могла б дозволити зловмиснику фактично викрасти ШІ-асистента та скористатися будь-якими дозволами, які користувач йому надав. Оголошення з’явилося лише через день після того, як Amazon попросив Muse припинити використання їхнього сайту електронної комерції, заявивши, що агент Meta не ідентифікував себе під час покупок на платформі, і це викликало занепокоєння щодо того, як Amazon обробляє облікові дані клієнтів та дані облікових записів.
Однак банки не відкидають ідею агентської комерції повністю і навіть стверджують, що вона потенційно може стати «мейнстрімним способом здійснення транзакцій споживачами та продавцями».
«Ми також захоплені перспективами агентської комерції та прагнемо працювати з клієнтами, промисловістю та зацікавленими сторонами, щоб уможливити її майбутнє», — йдеться у документі.
Але спочатку агентській комерції необхідно завоювати довіру через галузеві стандарти, політики та захист прав споживачів, які наразі відстають від технологічних розробок, кажуть банки. Консорціум зараз працює над наступним документом, щоб детально описати, як п’ять ключових принципів, викладених у цьому звіті — прозорість, безпека, конфіденційність та дані, вибір та інтероперабельність — можуть бути фактично реалізовані для забезпечення максимальної безпеки будь-якого розгортання електронної комерції під керівництвом ШІ.