Az antiszemitizmus jó üzlet a globális platformoknak

Az antiszemitizmus robbanásszerűen terjed az interneten. A közösségi média platformok pedig nemhogy gátolnák, hanem éppenséggel segítik is a terjedését. Vajon miért? – kérdi a Jerusalem Postban megjelent cikk szerzője.

Ezt két olyan nézőpontból látom, amelyeket a legtöbb embernek nincs alkalma ötvözni. Adattudományt tanultam a Berkeley egyetemen, amely a Szilícium-völgy közvetlen “utánpótlási vonala”. Éveket töltöttem mesterséges intelligencia (MI) rendszerek építésével. Ma pedig Miss Izraelként a zsidó népet képviselem a világ színpadán.

Így kétféle szemszögből is látom, hogy azok a vakfoltok, amelyek az elit intézményekben láthatatlanná teszik az antiszemitizmust, ma már be vannak építve a legnagyobb közösségi média platformok algoritmusába.

 

Így néz ki ez a gyakorlatban:

Én magam több százezer gyűlölködő komment célpontja lettem. Olyan hozzászólásoké, amelyek szerint hatmillió zsidó „nem volt elég”. Olyanoké, amelyek szemléletesen írják le, mit kellene tenni a zsidó nőkkel. Halálos fenyegetéseket kaptam én és a családom, sokan egyenesen egy újabb holokausztot követeltek. Ezeket a kommenteket többször is jelentettem. Soha nem távolították el őket.

Ezzel szemben a saját posztjaimat és kommentjeimet – amelyek nem tartalmaznak durva nyelvezetet, semmi sértőt, vagy akár csak kifejezetten politikait – órákon belül törlik. A tömeges feljelentési kampányok működnek. Az algoritmus a mennyiségre reagál, nem a hitelességre.

Ez nem csak velem fordul elő. Zsidó újságírók, aktivisták és közszereplők az iparágak egész területén azonos tapasztalatokról számolnak be: korlátozásokról, eltávolításokról és „árnyék-tiltásokról” (shadowban), amelyeket nem tényleges szabálysértések, hanem összehangolt támadások váltanak ki. Ezek célzott kampányok prominens zsidó hangok ellen, és működnek.

 

Az algoritmus felerősíti a gyűlöletet

A szokásos védekezés ilyenkor az, hogy a platformok semleges felületek, csak összekötik az embereket. Nem tudják kontrollálni, mit mondanak a felhasználók.

Adattudományi szempontból ez a magyarázat mélyen félrevezető.

A közösségi média platformok nem csak megjelenítik a tartalmat. Aktívan rangsorolják, ajánlják, felerősítik, vagy elnyomják és eltávolítják azokat. A rendszer egyetlen dologra optimalizált: ez az engagement – vagyis a kattintások, megosztások, kommentek és a nézési idő. A dühödt felháborodás és a törzsi szemlélet ilyen körülmények között rendkívül nagy forgalmat generál. Az antiszemita tartalom sem kivétel.

Az ily módon beállított rendszerek veszélyesen kiaknázhatóak tisztességtelen célokra. Az olyan platformok, mint a Meta, olyan moderációs algoritmusokat építettek, amelyeket összehangolt feljelentési kampányokkal meg lehet téveszteni. Olyan aktorok, mint Katar és más, pénzben dúskáló szereplők rájöttek erre, és ennek megfelelően fektették be a pénzüket. De a sebezhetőség a rendszerek beállítása miatt létezik.

A minta világos: a mennyiség legyőzi a hitelességet. Az automatizált törlések az emberi felülvizsgálat előtt megtörténnek. A leggonoszabb antiszemita tartalmak korlátlan ideig fent maradnak, miközben a zsidók ártalmatlan kommentjeit törlik, mert elegendő ember jelentette fel őket. Akár szándékos volt ez az eredmény, akár nem, ez a valóság, amit ezek a rendszerek létrehoztak.

💭 OPINION: The business model of hate: How algorithms amplify antisemitism⁠

Enjoy the videos and music you love, upload original content, and share it all with friends, family, and the world on YouTube.

A mérnökök és kutatók évek óta dokumentálják az algoritmikus elfogultságot. Az algoritmusok saját alkotóik prioritásait és vakfoltjait tükrözik. Ha mindennél előbbre helyezik a forgalom maximalizálását (engagement), és olyan moderációs rendszereket építenek, amelyek az összehangolt visszaélésekre pozitívan reagálnak, a tényleges szabálysértések bejelentésére pedig nem, akkor a károk kiszámíthatóak.

A zsidók számára mindez katasztrofális. Körülbelül 16 millióan vagyunk egy több milliárdos digitális ökoszisztémában. Az algoritmikus rendszerek a mennyiséget és az összehangoltságot jutalmazzák. Nem tudunk versenyezni a tömeges feljelentési kampányokkal. Nem tudunk lépést tartani a gyártott és felerősített antiszemita tartalom puszta mennyiségével. Ezek a kijátszható rendszerek végzetessé teszik ezt az egyensúlyhiányt a zsidó hangok számára az interneten.

Az eredmény egy olyan digitális környezet, ahol az antiszemitizmus felerősödik, míg a zsidó hangokat elnyomják. A történelemből pedig nagyon jól tudjuk, hogy mi történik, ha a zsidógyűlölet akadálytalanul terjed. Most élőben láthatjuk, amint ez megismétlődik.

És ez ellen azért nem tudunk védekezni, mert az olyan platformok, mint a Meta, azt állítják, hogy moderálják a tartalmakat, miközben valójában elkerülik az ezzel járó felelősséget.

Két következetes álláspont létezik: vagy következetesen érvényesíted a szabályaidat és megvéded a felhasználókat a célzott gyűlölettől – vagy teljesen kiszállsz a moderálásból. Ami most létezik, az egyik sem. A jogérvényesítés szelektíven működik. A zsidó hangokat elnémítják a feljelentési rendszereken keresztül, miközben az antiszemita tartalom szabadon terjed.

Mindezt részben az elavult jogi keretek tették lehetővé. A 230-as bekezdést (Section 230) még azelőtt írták, hogy az algoritmikus ajánlórendszerek ilyen mértékben léteztek volna. (A Section 230 az Amerikai Egyesült Államok 1996-os távközlési törvényének (Telecommunications Act) azon szakasza, amely alapvető védelmet biztosít az internetes platformok számára a felhasználóik által közzétett tartalmakért viselt jogi felelősség alól. A szerk.) A bíróságok már kezdik megkérdőjelezni, hogy a vállalatok érinthetetlenek maradjanak-e, ha algoritmusaik hozzájárulnak a káros tartalmak terjesztéséhez.

De a platformoknak nincs szükségük új törvényekre a felelősségteljes cselekvéshez. Kezelhetnék az általuk épített, kijátszható rendszereket. Felülvizsgálhatnák az irányelveiket, hogy a tömeges feljelentési kampányok ne írhassák felül a tartalmi standardokat. Befektethetnének olyan moderációba, amely különbséget tesz a tényleges szabálysértés és az erre hivatkozó, összehangolt visszaélés között. Átláthatóvá tehetnék, hogyan kezelik az antiszemita tartalmakat, és miért sikeresek ezek a kampányok.

Eddig ezt nem tették meg.

Az algoritmusok nem semlegesek. Az azokat alkalmazó vállalatok értékeit tükrözik. Jelenleg úgy tűnik, hogy ezek az értékek teszik lehetővé az emberiség egyik legrégebbi gyűlöletének terjedését olyan mértékben, amilyet korábban soha nem láttunk.

Zsidó nőként, technológusként és népem globális képviselőjeként azért hozom ezt fel, mert a következmények már nem elméletiek. Amikor a Meta felhasználásával működő platformok hagyják az antiszemitizmust gátlástalanul terjedni, miközben elnémítják a zsidó hangokat, nem egyszerűen felületet kínálnak a megszólalóknak. Aktívan alakítják a valóságot.

Ez a valóság pedig napról napra veszélyesebbé válik.

A szerző a jelenlegi Miss Izrael, adat-kutató és prominens zsidó hang a globális színtéren.

Jpost.com

Ford: jég