OpenAI обяви, че ще ограничи начина, по който ChatGPT отговаря на потребители под 18 години, освен ако те не преминат през системата за определяне на възраст или не предоставят документ за самоличност. Решението идва след съдебен иск от семейството на 16-годишен тийнейджър, който се е самоубил през април след месеци разговори с чатбота.

Според компанията, ако потребителят не премине през системата за определяне на възраст или не предостави документ за самоличност, ChatGPT ще бъде принуден да премине към по-безопасен режим, предназначен за непълнолетни.

Главният изпълнителен директор на OpenAI, Сам Алтман, заяви в блог пост, че компанията поставя безопасността над личното пространство и свободата на тийнейджърите: „Непълнолетните се нуждаят от значителна защита.“

С новите ограничения графичното сексуално съдържание ще бъде блокирано, чатботът няма да флиртува с потребители под 18 години и няма да участва в дискусии, свързани със самоубийство или самонараняване, дори в контекста на творческо писане.

Ако системата засече, че непълнолетният проявява мисли за самоубийство, тя ще се опита да се свърже с родителите или, при невъзможност, с властите, когато има непосредствена опасност за живота.

Алтман уточни, че новите мерки ще включват и система за прогнозиране на възрастта, която да оцени потребителите въз основа на начина, по който използват ChatGPT. В случай на съмнение, системата автоматично ще превключва към режима за под 18 години. В някои случаи потребителите може да бъдат помолени да предоставят документ за самоличност за проверка на възрастта.

Съдебният иск срещу OpenAI е подаден от семейството на калифорниецa Адам Рейн, който е изпращал до 650 съобщения дневно на ChatGPT.

Според съдебните документи, чатботът уж е давал указания на Адам за методите на самоубийство и дори е предложил помощ за написване на писмо за родителите му. OpenAI призна, че защитните механизми на системата работят по-надеждно при кратки разговори, но при дълги взаимодействия чатботът може да предложи отговори, които противоречат на въведените ограничения.

Компанията също така обяви въвеждането на засилени функции за сигурност, които ще гарантират, че данните, споделяни с ChatGPT, остават поверителни дори за служителите на OpenAI. Родителите ще могат да свържат акаунта си с този на детето, да контролират кои функции да са достъпни, да задават часове, в които чатботът не може да се използва, и да получават известия при опасни ситуации.