Az eszközök ilyen esetekben már szakértőkhöz irányítják a fiatalokat, és korlátozzák is őket abban, hogy használják a cég AI-funkcióit. Az AI-chatbotjait pedig úgy képezi a Meta a továbbiakban, hogy ne generáljanak válaszokat tizenéveseknek olyan témákban, mint az önsértés, öngyilkosság, étkezési zavarok, valamint kerüljék a nem megfelelő romantikus beszélgetéseket.
A jövőben a fiatalok biztonsága lesz a fókuszban
– nyilatkozta Stephanie Otway, a Meta egyik szóvivője a TechCrunchnak.
Az ügy háttere, hogy a Meta által az Instagramon és a Facebookon elérhetővé tett, felhasználók által készített AI-karakterek között szerepelnek szexualizált chatbotok is, mint például a „Mostohaanya” vagy az „Orosz lány”. Az új szabályozás értelmében a tizenéves felhasználók a Meta alkalmazásaiban ezentúl csak bizonyos, oktatási és készségfejlesztési célú AI-chatbotokhoz férhetnek hozzá.
Ahogy közösségünk növekszik és a technológia fejlődik, folyamatosan tanuljuk, hogyan használják a fiatalok ezeket az eszközöket, és ennek megfelelően erősítjük védelmeinket
– tette hozzá a szóvivő.
Ezek egyelőre ideiglenes megoldások, és a következő hetekben kezdik bevezetni őket az angol nyelvű országokban. A vállalat a jövőben hosszú távú biztonsági frissítéseket fog kiadni a kiskorúak számára.
A változásokat azután jelentették be, hogy a Reuters nemrég bemutatott egy belső Meta-szabályzatot, ami látszólag lehetővé teszi a vállalat chatbotjai számára a szexuális tartalmú beszélgetéseket kiskorú felhasználókkal.
A Meta szerint a dokumentum nem volt összhangban a tágabb irányelveikkel, és azóta módosították – a jelentés azonban folyamatos vitákat váltott ki a potenciális gyermekbiztonsági kockázatokkal kapcsolatban.
Röviddel a jelentés közzététele után Josh Hawley, Missouri állam republikánus szenátora hivatalos vizsgálatot indított a vállalat AI-irányelveivel kapcsolatban. Ezenkívül 44 állami főügyész közös levelet írt számos mesterséges intelligenciával foglalkozó vállalat számára, hangsúlyozva a gyermekbiztonság fontosságát, konkrétan idézve a Reuters jelentését:
Egyöntetűen felháborít minket a gyermekek érzelmi jólétének ez a látszólagos semmibevétele és riasztónak tartjuk, hogy a mesterséges intelligencia asszisztensei olyan magatartást folytatnak, amelyet a vonatkozó büntetőjogi törvényeink tiltanak.
A Meta nemrég egy másik ügyben is kellemetlen helyzetbe került: kiderült, hogy a cég AI-alapú chatbotjai hírességek személyazonosságát utánozva kezdtek működni – ráadásul gyakran szexuális, flörtölős tartalmakat generálva. Az érintettek között olyan nevek is szerepeltek, mint Taylor Swift, Scarlett Johansson vagy Selena Gomez, sőt, még kiskorú színészről, Walker Scobellről mintázott bot is megjelent.
