Andi Davids, a Bulletproof Globális Stratégiai Üzleti Igazgatója szerint az AI-t szexizmuson és diszkrimináción alapuló adatkészleteken fejlesztik. Ez abból eredeztethető, hogy a gépi tanulás és a mesterséges intelligencia adathalmazokból táplálkozik, vagyis a múltbeli tudásból és tapasztalatból származó hiányos adatokból építkezik, hogy a lehető leggyorsabban tudjon választ adni egy-egy kérdésre. Mivel a mesterséges intelligenciát emberek alkották és működtetik, így az nemcsak tükrözi az előítéleteket, hanem fel is erősíti azokat az öntanuló természete miatt. A nemek közötti különbségtétel a legjobb példa erre – olvasható a The Drum cikkében.
Nemcsak a mesterséges intelligencia rendszereket fejlesztő és képző csapatok, hanem maguk az adathalmazok is erősen férfiközpontúak – ugyanis a globális munkaerő 76 százalékát férfiak teszik ki. A férfi források gyakoribb idézésétől a tudományos életben, a férfi rendezők, újságírók és művészek vezérelte médiáig, folytatva a meztelen vagy félmeztelen nők elterjedésével az interneten – az adatkészletek az „erősebbik nem″ uralta hangot és látásmódot állandósítják. Ez abból is érzékelhető, hogy ha egy képalkotó AI programot megkér egy felhasználó arra, hogy generáljon egy „bírót”, akkor az általa készített képek mindössze 3 százaléka ábrázol nőt. Az „ápoló″ szóra, sokkal nagyobb valószínűséggel készít nőt, méghozzá szexualizáltat.
A nem kérdése mellett a faji, a kulturális és a történelmi előítéletek is mind befolyásolják a mesterséges intelligencia fejlesztéséhez felhasznált adatokat. Ez torz eredményekhez vezethet, ahol a fehér férfiak felülreprezentáltak a szakmai szerepekben, a színesbőrű nők pedig aránytalanul alacsonyan fizetett munkakörök – például a szociális munka – képi világába szorulnak be.
A kreatív szakma felelőssége a kérdésben
Ahogy a mesterséges intelligencia folyamatosan finomul, úgy a valóságtól is egyre kevésbé válik megkülönböztethetővé, – így a jövőben nemcsak tükrözni fogja az emberi világot, hanem alakítani is fogja azt. Andi Davids szerint ezért van az, hogy a kreatív közösségnek felelőssége van az AI alakulásának kérdésében. Véleménye szerint kulturális közösségként ugyanis a szakmának megvan arra a képessége, hogy formálni tudja a narratívákat, kodifikálni a korszellemet, és végső soron társadalmi üzenetet is képes teremteni.
Az aktuálisan fogyasztott média, a termékek mind befolyásolják az elmesélt történeteket és a kreatív szakma által vetített képeket. Ezért elengedhetetlen, hogy mindenki, aki részt vesz a kreatív erőfeszítésekben, ne hunyja le a szemét az előítéletekkel szemben; legyenek azok személyes, társadalmi vagy akár technológiai jellegűek. Davids szerint csak így lehet biztosítani, hogy az elmesélt történetek, képek hűen tükrözzék az emberi tapasztalatok gazdag hálóját.
Az emberi befolyás alakítja a mesterséges intelligenciát
A Bulletproof igazgatója szerint, ha a kreatív iparág olyan mesterséges intelligenciát használ, ami elavult adatmintákra támaszkodik, akkor korlátozottak a lehetőségek arra, hogy a szakma valóban újszerű ötleteket hozzon létre, mivel a képzelőerő korlátozva van, és ezzel a bevett normák megkérdőjelezése is nehezebben írható felül.
Davids véleménye szerint a mesterséges intelligenciával dolgozó kreatívoknak ellenőrizniük kell mind a saját elfogultságaikat, mind pedig azt, hogy miként használják ezeket az eszközöket. Az AI-ban rejlő valódi potenciál a kreativitás lehetőségeiben rejlik, és ezek a különféle felhasználási módokban fognak kibontakozni. A kreatív kifejezés minőségét és szintjét végső soron az fogja meghatározni, hogy a kreatív közösség azt hogyan használja fel. Davids szerint a társadalom komplex kulturális normákra és reprezentációs elképzelésekre épül: Egy élhetőbb és egyben biztonságosabb világ eléréséhez, meg kell szüntetni a mesterséges intelligenciában rejlő előítéleteket.