Az OpenAI célja, hogy a felhasználók egészségesebb kapcsolatot alakítsanak ki a gyakran túlságosan együttműködő és bátorító AI-asszisztenssel – írja az Engadget. Az eszköz ugyanis esetenként nagyon emberinek tűnhet.
A vállalat közleménye szerint a „szelíd emlékeztetők” felugró ablakokként jelennek majd meg a beszélgetésekben, és a felhasználóknak le kell kattintaniuk őket a ChatGPT használatának folytatásához.
A The New York Times júniusi beszámolója szerint az OpenAI mesterséges intelligenciájának működése már több felhasználót is „sötét utakra” vezetett – beleértve az öngyilkossági gondolatokat is, hiszen sokszor helytelen vagy veszélyes válaszokat ad, illetve túlságosan egyetért, amikor nem erre lenne szükség.
Egyes felhasználóknak, akiknek tévképzeteit a ChatGPT felerősítette, ugyan korábban is voltak mentális problémáik, de a chatbot gyengén teljesített abban, hogy következetesen lezárja az egészségtelen beszélgetéseket.
Az OpenAI a blogbejegyzésében elismeri ezeket a hiányosságokat, és közölte, a jövőben frissíteni fogja a ChatGPT-t, hogy magas kockázatú, személyes döntéseknél körültekintőbben reagáljon. Ahelyett, hogy közvetlen választ adna, a chatbot inkább segíteni fogja a felhasználót a problémák átgondolásában, kérdéseket vet fel, felsorolja az előnyöket és a hátrányokat.
Az OpenAI azt szeretné, ha a ChatGPT hasznosnak, bátorítónak és élvezetesnek hatna, de éppen ezért az AI sokszor hízelgővé válik. A vállalatnak áprilisban vissza is kellett vonnia egy frissítést, ami miatt a chatbot túlzottan egyetértő válaszokat adott, még akkor is, ha a felhasználó tévedett. A szünetek időt adhatnak a felhasználóknak arra, hogy ellenőrizzék, a ChatGPT által adott válaszok helyesek-e.
