OpenAI обяви нови функции за безопасност в ChatGPT, насочени към по-добро разпознаване на признаци на психически и емоционален стрес у потребителите. Решението идва след вътрешен анализ и случаи, в които чатботът не е реагирал адекватно на уязвими хора, търсещи емоционална подкрепа, съобщи Euronews.

„Не винаги го правим правилно“, признават от компанията в официално изявление. „Нашият подход ще продължи да се развива, докато се учим от реалната употреба.“

С нарастващото използване на изкуствен интелект за лични консултации, все повече хора разчитат на ChatGPT за помощ при житейски дилеми. Въпреки това, OpenAI беше подложена на критики, след като се появиха случаи на вредни взаимодействия. Един от тях включва 30-годишен мъж с аутизъм, който е бил хоспитализиран след маниакален епизод. Според доклади, ChatGPT е затвърдил неговото заблуждение, че е открил начин да контролира времето.

Новите мерки ще позволят на ChatGPT:

Да разпознава по-добре признаци на психологическа криза;

Да предлага базирани на доказателства ресурси;

Да насърчава почивки по време на дълги сесии;

Да избягва даването на категорични съвети при лични решения.



Например, чатботът вече няма да отговаря директно на въпроси като „Трябва ли да се разделя с приятеля си?“ — вместо това ще подпомага потребителя чрез насочващи въпроси, които да улеснят самоанализ и вземане на информирано решение.

OpenAI също така създава консултативен съвет с експерти по психично здраве, младежко развитие и взаимодействие човек-компютър, които ще участват в оформянето на бъдещите актуализации.

Компанията подчертава, че целта не е ChatGPT да замени психологическата помощ, а да бъде „полезен в ежедневни ситуации“ — например при подготовка за труден разговор или при нужда от структуриране на мисли.

Експерти обаче предупреждават, че истинската подкрепа при психични затруднения се случва чрез човешка връзка и доверие, каквито изкуственият интелект не може да замени.

Това не е първият случай, в който OpenAI променя поведението на ChatGPT в отговор на критики. През април компанията отмени актуализация, за която се твърдеше, че е направила чатбота „прекалено ласкателен и приятен“, дори когато това не е било полезно.

„ChatGPT понякога казваше това, което звучи хубаво, вместо това, което е наистина полезно“, признаха от компанията тогава.