Thumbnail Ro Sa luistert

The Guardian podcast over Elon Musks 'perverse chatbot’

In de categorie RoSa luistert bespreken we interessante podcasts over gender en/of feminisme die ons opvallen, die we warm aanbevelen of die we kritisch onder de loep nemen. Deze keer luisteren we naar de podcast Today in Focus van de Britse krant The Guardian over Elon Musks AI-chatbot Grok die seksuele beelden produceert op vraag.

De voorbije weken kwam Grok, de AI-toepassing van het sociale mediaplatform X, onder vuur te liggen vanwege de mogelijkheid om op verzoek seksuele deepnudes te genereren van bestaande personen - zonder hun toestemming - waaronder zelfs van kinderen. Deepnudes zijn door AI gemanipuleerde beelden en video’s van seksuele aard, waardoor het lijkt alsof een persoon echt naakt afgebeeld wordt, iets seksueel doet of zegt, maar dit in werkelijkheid nooit heeft plaatsgevonden.

Aan het woord in de podcast is Ashley St Clair, een 27-jarige conservatieve influencer en moeder van een kind met Elon Musk. Ze vertelt hoe ze op een dag werd gewezen op een pagina op X waarop gemanipuleerde beelden circuleerden van haar lichaam, waarbij haar kledij werd “uitgetrokken” tot ze enkel nog in een bikini te zien was. St Clair is niet de enige die dit meemaakte. De afgelopen maand ontdekten talrijke vrouwen gemanipuleerde en geseksualiseerde duplicaten van foto’s die zij ooit gedeeld hebben op sociale media. Er worden zelfs beelden gemaakt van kinderen, soms van zeer jonge leeftijd, die in expliciet en gewelddadige settings geplaatst worden.

“The owner of the platform is encouraging it, so to speak by [...] putting himself in a bikini, when the issue here is consent. This is an issue that is targeting women and children because there is a power dynamic with doing these things non-consensually.” Ashley St. Clair in The Guardian podcast

Ook Dan Dilmo, de technologie-expert bij The Guardian, schuift aan en en kadert het schandaal binnen een bredere reeks incidenten rond Grok, waaronder eerdere controverse over extremistische en antisemitische output waarbij Hitler verheerlijkt werd. Dilmo wijst op een sneeuwbaleffect en buigt zich onder meer over de vraag of Elon Musk en zijn bedrijf niet bereid of niet in staat zijn om de productie van niet-consensuele deepnudes effectief te verhinderen.

Wat de podcast blootlegt, is dat steeds snellere technologische vooruitgang gepaard kan gaan met een gebrek aan regelgeving én verantwoordelijkheid. Nieuwe technologieën worden aangewend om gekende vormen van gendergerelateerd geweld te reproduceren en te verspreiden. Grok fungeert zo als een spiegel van een bredere (digitale) cultuur, waarin vooral vrouwen en kinderen geseksualiseerd en geobjectiveerd worden. Mensenrechten zoals seksuele integriteit raken daarbij ondergeschikt aan sensatie, provocatie, zichtbaarheid, het genereren van clicks, geld en macht.