Hetente több mint egymillió ChatGPT-felhasználó küld olyan üzeneteket, amelyek "egyértelmű jeleit mutatják lehetséges öngyilkosság tervezésnek vagy szándéknak" - derül ki az OpenAI friss blogbejegyzéséből.

A megdöbbentő adat, amely a chatbot érzékeny beszélgetések kezelésére vonatkozó frissítés része, az egyik legközvetlenebb nyilatkozat a mesterséges intelligencia óriáscégtől arról, milyen mértékben súlyosbíthatja az AI a mentális egészségügyi problémákat.

Félmillió felhasználó mutatja pszichózis jeleit

Az öngyilkossági gondolatokkal kapcsolatos becslések mellett az OpenAI azt is közölte, hogy aktív felhasználóinak körülbelül 0,07 százaléka - vagyis a hirdetett 800 millió heti felhasználóból mintegy 560 ezren - "pszichózissal vagy mániával kapcsolatos mentális egészségügyi vészhelyzetek lehetséges jeleit" mutatják egy adott héten.

A bejegyzés ugyanakkor óvatosságra intett, megjegyezve, hogy ezeket a beszélgetéseket nehéz felismerni vagy mérni, és ez csak egy kezdeti elemzés.

Jogi vizsgálatok kereszttüzében

Az OpenAI éppen akkor publikálta ezeket a mentális egészségügyi adatokat, amikor a cég egyre nagyobb vizsgálódás célpontjává vált egy széles körben nyilvánosságra hozott per miatt, amelyben egy tinédzser fiú családja perelte be a céget, miután a gyerek öngyilkosságot követett el a ChatGPT-vel való kiterjedt kapcsolattartás után.

A Szövetségi Kereskedelmi Bizottság múlt hónapban átfogó vizsgálatot is indított azokkal a cégekkel szemben, amelyek mesterséges intelligencia chatbotokat fejlesztenek, köztük az OpenAI-val. A vizsgálat célja kideríteni, hogyan mérik fel ezek a vállalatok termékük gyerekekre és serdülőkre gyakorolt negatív hatásait.

Javulást ígér az új GPT-5

Az OpenAI állítása szerint legújabb GPT-5 frissítése csökkentette a termék nem kívánt viselkedéseinek számát, és javította a felhasználói biztonságot. Ezt egy több mint ezer, önkárosításról és öngyilkosságról szóló beszélgetést magában foglaló modellértékelés során állapították meg.

"Új automatizált értékeléseink szerint az új GPT-5 modell 91 százalékban felel meg a kívánt viselkedésnek, szemben az előző GPT-5 modell 77 százalékával" - közölte a cég.

Az OpenAI kiemelte, hogy a GPT-5 kibővítette a krízisforródrótokhoz való hozzáférést is, és emlékeztetőket adott hozzá, hogy a felhasználók tartsanak szünetet a hosszú munkamenetek során.

170 klinikus bevonása a fejlesztésbe

A modell fejlesztése érdekében a vállalat elmondása szerint az elmúlt hónapokban 170 klinikust toborzott globális egészségügyi szakértői hálózatából, hogy segítsenek a kutatásban. Ez magában foglalta a modell válaszainak megbízhatóságának értékelését és a mentális egészséggel kapcsolatos kérdésekre adott chatbot-válaszok megírásának segítését.

"E munka részeként pszichiáterek és pszichológusok több mint 1800, súlyos mentális egészségügyi helyzeteket érintő modellválaszt vizsgáltak felül, és összehasonlították az új GPT-5 beszélgetési modell válaszait a korábbi modellekével" - fogalmazott az OpenAI.

A cég "kívánatosnak" azt tekintette, amikor szakértőinek egy csoportja ugyanarra a következtetésre jutott arról, mi lenne megfelelő válasz bizonyos helyzetekben.

Szakértői aggodalmak

A mesterséges intelligencia kutatói és a közegészségügyi szakemberek régóta aggodalommal figyelik a chatbotok azon hajlamát, hogy megerősítik a felhasználók döntéseit vagy téveszméit, függetlenül attól, hogy azok károsak lehetnek-e - a jelenséget szolgalelkűségnek nevezik.

A mentális egészség szakértői szintén aggódnak amiatt, hogy az emberek mesterséges intelligencia chatbotokat használnak pszichológiai támogatásra, és figyelmeztetnek arra, hogy ez károsíthatja a sérülékeny felhasználókat.

Az OpenAI bejegyzésének megfogalmazása távolságot tart a cég és a felhasználói által tapasztalt mentális egészségügyi válságok közötti esetleges ok-okozati kapcsolat között.

"A mentális egészségügyi tünetek és érzelmi szorongás univerzálisan jelen vannak az emberi társadalmakban, és a növekvő felhasználói bázis azt jelenti, hogy a ChatGPT-beszélgetések egy része ezeket a helyzeteket is érinti" - áll az OpenAI bejegyzésében.