Több mint egymillió ember heti szinten olyan üzeneteket küld a ChatGPT-nek, amelyek „egyértelműen utalnak arra, hogy valaki öngyilkosságot tervez, vagy akar elkövetni” – derült ki a ChatGPT-t is üzemeltető OpenAI hétfői blogposztjából.
A poszt, amiről a Guardian írt, a cég eddigi egyik legközvetlenebb megnyilvánulása, ami bemutatja, hogyan ronthat a mentális problémákon a mesterséges intelligencia. Az öngyilkosságra utaló üzeneteken túl az OpenAI arról is beszámolt, hogy a ChatGPT heti 800 millió felhasználójából több mint félmillióan „mánia vagy pszichózis vagy mánia lehetséges jeleit mutatják”.
Az OpenAI posztja egyébként főleg a ChatGPT új frissítéséről, a GPT-5-ről szólt. A cég szerint a frissítés után a csetbot kevésbé fog nemkívánatosan viselkedni, nagyobb biztonságban is lesznek a felhasználók. Ezt egy több mint ezer önsértésről és öngyilkosságról szóló beszélgetéseket értékelő modell segíti.
Sam Altman, az OpenAI vezérigazgatója szeptemberben egy blogbejegyzésben írt arról, hogy a cég külön szabályokat fog alkalmazni a legnépszerűbb MI-csetbot tinédzserkorú felhasználóira. A ChatGPT velük nem folytathat flörtölő jellegű, vagy öngyilkossággal kapcsolatos beszélgetéseket.
A csetbotokra már rengeteg felhasználó barátként tekint, sőt, olyanok is vannak, akik pszichológusnak használják, már csak azért is, mert ingyen van, és mindig elérhető. Viszont, ahogy arra a szakemberek is felhívták a figyelmet, ellentétben a valós pszichológusokkal, a csetbotoknál nincsenek etikai szabályok. Kiss Lehel pszichológus szerint egy igazi pszichológus például nem értékesít semmit, a ChatGPT viszont „bármit az arcodba fog tolni, azon a nyelvezeten, ami neked tetszik”.
