Платформа Pangram, що спеціалізується на виявленні контенту, створеного штучним інтелектом, представила нову функцію інтеграції з Gmail, яка допомагає ідентифікувати листи, написані ШІ.
Зважаючи на зростання кількості контенту, згенерованого штучним інтелектом, у мережі, цілком логічно, що він почне проникати і в електронні скриньки користувачів. Pangram прагне зробити виявлення таких листів простішим.
Нова функція Pangram, запущена минулої середи, сканує вхідні повідомлення Gmail і позначає їх залежно від того, яка частина тексту, ймовірно, була написана ШІ.
Після підключення облікового запису Gmail, Pangram аналізує нові листи та за замовчуванням позначає їх як “AI” (штучний інтелект) або “Mixed” (змішаний контент). Користувачі також можуть увімкнути позначки для листів, написаних людьми.
“Нові повідомлення перевіряються та позначаються під час надходження. Призупинення інтеграції зупинить нові сканування. Наявні позначки залишаються в Gmail”, – повідомляє компанія на своєму вебсайті.
Користувачі можуть виключити певних відправників зі сканування. Також доступна панель інструментів, яка відстежує, як Pangram позначав вхідні листи за останні 24 години, тиждень або місяць.
“Я користуюся функцією позначки листів у Gmail від Pangram близько двох місяців. Це було надзвичайно корисно – бачити, які холодні листи позначені як створені ШІ, і використовувати цю інформацію для визначення подальших дій”, – написав у середу у своєму дописі в X співзасновник і генеральний директор Pangram Макс Сперо.
Сперо зазначив, що компанія приділила значну увагу питанням конфіденційності через чутливий характер даних електронної пошти. Зрештою, Pangram запровадила політику нульового збереження даних, що означає, що компанія не зберігає жодних даних електронної пошти після їх обробки та не використовує їх для тренування.
Крім того, на вебсайті Pangram зазначено, що їхній детектор не отримує інформації про відправника, одержувача, тему листа чи інші метадані.
Сперо також підкреслив важливість надання користувачам контролю над тим, що відбувається після позначки листа. Його особисте вподобання – просто позначати листи, згенеровані ШІ, залишаючи їх у скриньці, хоча він припускає, що це може змінитися в майбутньому, “якщо кількість листів від ШІ зросте”.
Тому користувачі можуть вибрати автоматичне архівування листів, позначених як створені ШІ, або надсилання їх безпосередньо до спаму.
Однак, це пов’язано з певними ризиками. Хоча детектори ШІ стають кращими, помилкові спрацьовування все ще можливі.
Pangram стверджує, що їхній детектор ідентифікує текст, згенерований ШІ, з точністю 99,98%, а незалежне дослідження, яке порівнювало різні інструменти виявлення ШІ, визнало Pangram найефективнішим.
Тим не менш, Сперо нещодавно повідомив Gizmodo, що інструменти виявлення ШІ завжди будуть наздоганяти все більш потужні моделі генеративного ШІ.
“Я не думаю, що ми коли-небудь досягнемо стовідсоткової точності”, – сказав Сперо. Натомість, все, що компанія може зробити, це “накопичувати більше впевненості, використовуючи більше даних”.