Запуск функції відклали через ризики для дітей.
OpenAI планує додати до ChatGPT так званий дорослий режим, який дозволить користувачам вести розмови з чат-ботом на еротичні теми. Однак, за The Wall Street Journal, порнографії не буде: функцію обмежать м'якішим сексуальним контентом у текстовій формі.
Про розробку режиму стало відомо ще у жовтні. Тоді глава OpenAI Сем Альтман говорив, що компанії вдалося знизити ризики, пов'язані із психічним здоров'ям. Тому з'явилася можливість послабити обмеження безпеки та дозволити “еротику для підтверджених дорослих користувачів”.
Спочатку запуск очікувався цього кварталу, але на початку березня OpenAI повідомила про перенесення релізу. Компанія пояснила це тим, що зараз зосереджена на пріоритетніших завданнях. Нові терміни виходу функції поки не оголошено.
Я пишаюся компанією і тим, як мало нас відволікає це завдання. Але іноді спокуса все ж таки виникає.
Сем Альтман
Генеральний директор OpenAI
За даними The Wall Street Journal, затримка пов'язана з внутрішніми побоюваннями та технічними труднощами. Консультативна рада OpenAI попередила в січні, що дорослий режим може бути доступний дітям і сприяти формуванню нездорової емоційної залежності від чат-бота. Один із членів ради заявив, що в гіршому випадку компанія ризикує створити «секс-коуча за самогубством».
Додаткові проблеми виникли з модерацією контенту. Джерела повідомляють, що OpenAI намагається послабити обмеження на певні матеріали для дорослих, але зберегти заборону на більш небезпечні сценарії — наприклад, сцени сексу без згоди.
Окремою проблемою стало створення системи визначення віку. Алгоритм, який повинен обмежувати неповнолітнім доступ до еротичного контенту, в одному з тестів помилково визначав підлітків як дорослих приблизно у 12% випадків. З урахуванням того, що ChatGPT щотижня використовують близько 100 мільйонів користувачів віком до 18 років, така помилка теоретично могла б відкрити доступ до сексуалізованих діалогів для мільйонів неповнолітніх.
При цьому OpenAI зазначає, що її система визначення віку працює приблизно на рівні всієї індустрії, але повністю виключити помилки в таких алгоритмах неможливо. Ймовірно, саме тому дорослий режим першому етапі обмежать текстовими діалогами. Такий підхід також допомагає оминати вимоги деяких законів — наприклад, британського закону про безпеку в інтернеті (Online Safety Act), який потребує обов'язкової перевірки віку для порнографічних зображень, але не для текстової еротики.
На тлі цього підхід OpenAI виглядає обережнішим у порівнянні з деякими конкурентами. Наприклад, xAI вже дозволяє своєму чат-боту Grok генерувати відвертіший візуальний контент — за словами Ілона Маска, все, що допустимо для фільмів з рейтингом R (аналог російського 18+).