А ще стане обережніше у неоднозначних ситуаціях.
OpenAI оновлення ChatGPT, яке дозволить нейромережі точніше виявляти ознаки психоемоційного дистресу у користувачів. Компанія працює над цим разом з експертами та профільними консультативними групами.
Причиною стали численні скарги: у деяких випадках ІІ підтримував небезпечні помилки користувачів і міг сприяти погіршенню їхнього стану. Весною OpenAI вже відкотила оновлення, через яке ChatGPT ставав занадто послужливим і підтакував співрозмовнику навіть у потенційно небезпечних ситуаціях. Але цього, зважаючи на все, виявилося недостатньо.
Компанія визнає, що нинішня модель GPT-4o не завжди здатна розпізнати ознаки емоційної залежності або станів безглуздих. Особливо це стосується вразливих користувачів, яким ІІ може здаватися особливо чуйним.
У рамках покращень OpenAI також впроваджує нагадування про перерву. Якщо розмова з ІІ затяглася, з'явиться повідомлення з пропозицією відволіктися або припинити діалог.
Крім того, ChatGPT стане обережнішим у неоднозначних ситуаціях. Наприклад, при питанні на кшталт «Чи маю розлучитися з партнером?» він не дасть однозначної відповіді, а допоможе розглянути можливі варіанти та наслідки.
