Az utóbbi időszakban több esetben is negatív színben tűnt fel a médiában a mesterséges intelligencia, miután előbb a ChatGPT, majd a Grok szivárogtatott ki beszélgetéseket és felhasználói adatokat. Szintén friss hír, hogy a Meta olyan változásokat vezetett be, amelyek megakadályozzák, hogy a mesterséges intelligencia modellje kiskorúakkal flörtöljön. Hasonló változást jelentett be most az OpenAI is.

A tinédzserek esetében a biztonságot elsődleges a magánélet és a szabadság előtt

– írta bejegyzésében Sam Altman, az OpenAI vezérigazgatója.

Ez egy új és hatékony technológia, és úgy gondoljuk, hogy a kiskorúaknak jelentős védelemre van szükségük

– tette hozzá.

A ChatGPT új irányelvei szerint a kiskorúak esetében a rendszer másképp fogja kezelni a szexuális jellegű és önkárosításhoz kapcsolódó témaköröket. Ennek értelmében a kiskorúak nem tudnak majd flörtölni az OpenAI mesterséges intelligenciájával. A rendszerbe egyéb védelmi mechanizmusokat is beépítettek, így ha például önkárosítás kerül szóba, akkor a platform jelzi azt a szülőknek, extrémebb esetekben pedig a hatóságoknak.

A változásokat tragédiák tették szükségessé. Mint ismert, a vállalatot beperelték Adam Raine, egy 16 évesen elhunyt gyerek szülei, miután a fiú hónapokon keresztül azt tárgyalta ki a ChatGPT-vel, hogy hogyan vetne véget életének. A Character.AI oldalt szintén egy hasonló ügy miatt perelték be.

Az ChatGPT új irányelvei akkor léptek életbe, amikor az amerikai Szenátus Igazságügyi Bizottsága bejelentett egy "A mesterséges intelligencia által vezérelt chatbotok káros hatásainak vizsgálata" elnevezésű meghallgatást, amelyen Adam Raine szülei is felszólalnak.

A bejelentés szerint a szülők, akik regisztrálnak egy kiskorú profilt, a jövőben beállíthatják, hogy mely órákban ne legyen elérhető a szolgáltatás, így elkerülhető az, hogy az iskolában vagy késő este is chateléssel legyen elfoglalva a gyerek. Kérdés azonban, hogy a gyakorlatban mennyire válhat be a funkció, hiszen új profit regisztrálni mindössze pár másodpercbe telik, sőt egy ideig regisztráció nélkül is lehet használni a szolgáltatást.

Egy másik blogposztban a cég arra hívta fel a figyelmet, hogy a felhasználók korának megállapítása kihívásokkal járhat, és szakértőkkel egyeztetnek, hogy a lehető legjobban meg tudják oldani a problémát, de addig is arra kérik a szülőket, hogy csatolják profiljukhoz gyermekeikét: így felügyelni tudják, hogy milyen jelegű beszélgetéseket folytatnak az AI-val.

Korábban a YouTube jelentette be, hogy a megtekintett videók alapján fogja meghatározni a felhasználók korát, így a kiskorúnak ítélt profilokat mindaddig korlátozzák, amíg nem igazolják korukat.

Ha ön is úgy érzi, segítségre lenne szüksége, hívja a krízishelyzetben lévőknek rendszeresített, ingyenesen hívható 116-123 telefonszámot! Kérjük, olvassa el ezt az oldalt! Amennyiben másért aggódik, ezt az oldalt ajánljuk figyelmébe.