OpenAI публикува нови данни, според които малък, но значителен процент от потребителите на ChatGPT показват признаци на сериозни психични проблеми – включително мания, психоза и суицидни мисли.

Компанията изчислява, че около 0,07% от активните потребители седмично проявяват подобни симптоми. Макар процентът да изглежда незначителен, при база от над 800 милиона седмични потребители, това означава стотици хиляди души, предупредиха експерти.

В отговор на нарастващия обществен натиск OpenAI съобщи, че е създала глобална мрежа от над 170 психиатри, психолози и лекари от първичната помощ, които консултират компанията как да реагира при подобни случаи. Според компанията тези експерти са помогнали за разработването на специални отговори в чатбота с изкуствен интелект, които насърчават потребителите да потърсят професионална помощ в реалния свят.

Компанията допълва, че последните версии на чатбота са обучени да реагират емпатично и безопасно при признаци на заблуда, мания или риск от самонараняване. ChatGPT вече може да идентифицира косвени сигнали за потенциален риск и да пренасочва разговорите към по-сигурни модели.

„Въпреки че 0,07% звучи като малък дял, при стотици милиони потребители това може да означава много хора“, коментира д-р Джейсън Нагата, професор от Калифорнийския университет в Сан Франциско, цитиран от БиБиСи. По думите му изкуственият интелект може да бъде полезен инструмент в подкрепа на психичното здраве, но „трябва да сме наясно с ограниченията му“.

Публикуването на статистиката идва на фона на нарастващ правен и обществен натиск върху OpenAI. В САЩ вече има заведени дела срещу компанията – сред тях калифорнийска двойка обвинява OpenAI, че ChatGPT е насърчил техния 16-годишен син да се самоубие. Това е първото дело, в което се твърди, че взаимодействие с чатбот е довело до смърт.

В друг случай в щата Кънектикът заподозрян в убийство и самоубийство е публикувал свои разговори с ChatGPT, които, според експерти, може да са подсилили психотичните му заблуди.

„Чатботовете могат да създадат илюзия за реалност, която силно въздейства на уязвими хора“, коментира проф. Робин Фелдман, директор на Института за право и иновации в областта на изкуствения интелект към Юридическия университет на Калифорния. „OpenAI заслужава признание за прозрачността си, но човек в психическа криза невинаги може да възприеме предупрежденията на екрана.“