23.10 | AI-companions

RoSa vzw biedt elke twee weken een genderperspectief op actuele of onderbelichte thema’s. Deze week onderzoeken we de link tussen gender, feminisme, en intieme relaties met AI-bots

Gepubliceerd 23/10/2025

Vanaf december kan je seksueel getinte conversaties voeren met ChatGPT. Dat kondigde topman Sam Altman vorige week aan. Mensen kunnen vanaf dan expliciete vragen stellen, seksuele thema’s bespreken, of de chatbot erotische fictie laten schrijven. Ook nieuw is de optie om de bot te personaliseren: gebruikers kunnen hun voorkeuren rond bijvoorbeeld humor en schrijfstijl instellen zodat de bot deze persoonlijkheid aanneemt in hun gesprekken.

Deze opties zijn dan wel nieuw bij ChatGPT, ze werden al langer toegepast door andere apps en AI-bedrijven die gepersonaliseerde AI-companions of ‘gezelschapchatbots’ aanbieden. Gebruikers kunnen in deze apps tegen betaling intieme relaties aangaan met bots via audio, chat of 3D-modellen. Ze geven hun persoonlijke voorkeuren in en starten zo een relatie, en kunnen in sommige apps zelfs cadeaus kopen voor hun companion zoals een manicure of kledij. Volgens een recente studie in de Verenigde Staten heeft 19% van de Amerikanen al conversaties gevoerd met een AI-bot als romantische partner. Het grootste deel van de gebruikers van betaalde websites en apps die specifiek ontworpen zijn voor dit doel zijn heteroseksuele mannen tussen de 18 en 24 jaar.

Hoewel deze nieuwe evoluties in technologie onschuldig lijken, roepen ze ook kritische vragen op.

AI girlfriends & boyfriends: een win voor feminisme?

Zijn AI-companions een goede zaak voor feminisme en vrouwenrechten? Als je het aan ontwikkelaars van bedrijven vraagt die deze technologie aanbieden, wel. Sommige van deze apps en websites zijn gericht op het genereren van erotische content en porno. Gebruikers kunnen dan chatten met een AI-bot en/of realistisch beeldmateriaal laten genereren. Ontwikkelaars stellen dat hun AI voorkomt dat echte vrouwen aan sekswerk moeten doen. Dat zou volgens hen als voordeel hebben dat vrouwen niet meer uitgebuit worden, maar ook dat AI niet ziek wordt, geen verlofdagen nodig heeft, en geen impact ondervindt door vernederingen van klanten.

“Do you prefer your porn with a lot of abuse and human trafficking, or would you rather talk to an AI? We hear about human trafficking, girls being forced to be on camera 10 hours a day. You’ll never have a human trafficked AI girl. You’ll never have a girl who is forced or coerced into a sex scene that she’s so humiliated by, that she ends up killing herself. AI doesn’t get humiliated, it’s not going to kill itself.” Steve Jones, eigenaar van een AI-pornowebsite (The Guardian, 06/10/2025)

Deze visie op sekswerk is schadelijk: het stelt het werk voor als iets dat per definitie uitbuitend is voor vrouwen, en geeft tegelijk ook argumenten aan waar mensen onmogelijk mee kunnen concurreren. De sekswerkersbeweging stelt dat de symbolische discussie over de vraag of seks(werk) goed of slecht zou zijn, ondergeschikt is aan de erkenning dat seks verhandelen werk is. Daarom willen zij dat sekswerkers aanspraak kunnen maken op arbeidsrechten, die hen meer veiligheid op het werk en een sterkere arbeidspositie bieden. Dat zou sekswerkers beschermen tegen uitbuiting en precaire arbeidsomstandigheden. Hen proberen vervangen door AI, doet dat niet.

Er zijn momenteel geen aanwijzingen dat deze bots echte sekswerkers in grote mate zouden vervangen of voor een verbetering van hun werkomstandigheden of mensenrechten zouden zorgen. Toch vormen AI-sekswerkers mogelijks een bedreiging voor vrouwen die aan sekswerk doen, en zouden de bots hun jobs in de toekomst kunnen wegnemen.

Tegelijk worden er ook bots ontwikkeld die gebaseerd zijn op echte sekswerkers, een soort AI-kloon dus. Wanneer de sekswerkers hier zelf bij betrokken zijn, kunnen ze dus een constante stroom aan inkomen genereren met zichzelf én hun AI-kloon. Daniel Keating, chief executive van een bedrijf dat AI-girlfriends aanbiedt, ziet dit ook als vooruitgang voor vrouwen: “It’s a win. Costs are lower. Creators love this because they don’t have to get dressed up and shoot the content,” zegt hij daarover.

De sites laten verder nog toe dat gebruikers hun bots vernederen of misbruiken, en er bestaan zelfs simulaties waar gebruikers tegen betaling kunnen deelnemen aan (groeps)verkrachtingen. Ook dit zien ontwikkelaars als een win voor vrouwen:

“People will say things to an AI that would be abusive if they said them to a real person. Like: ‘Hey stupid slut, what’s up?’ In a fantasy roleplaying game, people like to be different than how they are in the real world.” Steve Jones, eigenaar van een AI pornowebsite (The Guardian, 06/10/2025)

Toch waarschuwen experts voor dit soort experimenten. Het concept van toestemming vragen, krijgen of geven is zo goed als onbestaande: AI is gemaakt om nooit ‘nee’ te zeggen en altijd mee te gaan in wat de gebruiker zegt of vraagt. Hoewel er geen consequenties zijn voor de AI-bot zelf, heeft het wel een effect op de gebruiker wanneer die de bot gebruikt om gewelddadige fantasieën, agressie of kwaadheid op af te reageren. Deze manier van omgaan met emoties zorgt niet voor persoonlijke groei of het reguleren van emoties op een gezonde manier:

“When aggression becomes an acceptable mode of interaction – whether with AI or people – it weakens the ability to form healthy, empathetic relationships.” Psychotherapeut Kamalyn Kaur in New York Post (16/02/2025)

AI is nooit neutraal

AI-sekswerkers en girlfriends voorstellen als een win voor vrouwen(rechten) is een opvallende keuze: artificiële intelligentie staat ervoor bekend misogyn, racistisch en homofoob te zijn. Verder is de technologie ook voornamelijk geprogrammeerd door en voor mannen: 71% van de mannen tussen 18 en 24 gebruikt AI wekelijks, tegenover 59% van de vrouwen in dezelfde leeftijdscategorie. Zolang mannen de hoofdgebruikers blijven, zal de technologie gebaseerd worden op hun voorkeuren en gedrag, stelt auteur Laura Bates. Tegelijk rapporteert UNESCO dat vrouwen slechts 20% uitmaken van de werknemers in technische rollen bij bedrijven die rond machine learning werken, 12% van de AI-onderzoekers in het algemeen en 6% van de professionele software ontwikkelaars. Zij concluderen dat systemen die niet door diverse teams zijn ontwikkeld ook niet geprogrammeerd zijn om diverse gebruikers te ondersteunen, of om hun mensenrechten te beschermen.

Het is een goede herinnering aan het feit dat AI nooit neutraal is. Dat ondervinden ook queer gebruikers van AI-companions. Sommigen ervaren hun interacties met de bots als heteronormatief, konden geen avatars kiezen van de identiteiten waar zij tot aangetrokken zijn, of rapporteren dat de bot niet adequaat kan reageren op hun input omdat ze niet behoren tot de identiteiten waarop de bot getrained is.

Daarnaast plaatsen deze websites hun vrouwelijke bots ook in rigide gendernormen: bij de instellingen kunnen gebruikers onder andere kiezen voor “onderdanig: blij om te volgen”, “onschuldig: optimistisch en naïef”, en “zorgend: empathisch en troostend”. Verder stellen gebruikers hun bot nog samen op basis van leeftijd, borstgrootte en huidskleur. Ook dit baart feministische denkers zorgen. Laura Bates stelde in haar boek The New Age Of Sexism (2025) al vast dat AI companions geprogrammeerd zijn om vriendelijk, onderdanig en meegaand te zijn en alleen te vertellen wat gebruikers willen horen.

AI-companions zijn dus gebaseerd op rigide gendernormen, zijn geprogrammeerd om meegaand te zijn, en gebruikers hebben de mogelijkheid om hen te misbruiken. Ze veranderen dan ook weinig aan de objectivering van vrouwen in de virtuele wereld, en de effecten daarvan op echte interactie tussen mensen zijn nog onduidelijk. Laura Bates vergelijkt de opkomst van AI met die van sociale media, en welk effect die hebben gehad op gendergelijkheid:

“The results have been devastating. Young women have taken their own lives after experiencing sexualised cyberbullying. An alarming number of female parliamentarians have stepped down from office after experiencing intolerable levels of online abuse. Millions of women have been subject to rape and death threats, doxing, online stalking and racist and misogynistic abuse.” Auteur Laura Bates in The Guardian (03/06/2025)

Daarnaast maken velen zich zorgen over de mogelijkheid om beelden te genereren van (kinder)misbruik. Steve Jones, eigenaar van een AI-pornowebsite, zegt dat zij hun software trainen om geen beelden te maken van vrouwen die nog geen borsten hebben ontwikkeld, een beugel hebben, of speelgoed bij zich hebben. Volgens hem kan AI het verschil niet begrijpen tussen een volwassen vrouw die jong lijkt en een jong meisje, daarom trainen ze dat zelf. “The AI itself has no morals and no ethics.”, voegt hij daar nog aan toe. Wat ze doen om jongens te beschermen verduidelijkt hij niet.

AI als middel tegen eenzaamheid

Anderen zien AI-girlfriends dan weer als een mogelijke oplossing voor incels (‘involuntary celibates’ of mannen die ongewild alleenstaand zijn en geen seks hebben) en eenzame mannen. De bots zouden een kans of manier zijn voor hen om emotionele banden te scheppen met de bots, hun fantasieën te vervullen, en sociale interacties te oefenen. Waar hier geen rekening mee gehouden wordt, is het feit dat AI-bots getraind zijn om mee te gaan met wat de gebruiker zegt en wil, wat geen representatie is van sociale interacties in de echte wereld. Meer zelfs, incels zouden net gestimuleerd kunnen worden in hun problematische visies tegenover vrouwen: ze zijn het gewend om met een bot te spreken die hen adoreert en aanmoedigt. Wanneer ze andere ervaringen opdoen met echte vrouwen, kan dat hun negatieve ideeën over vrouwen versterken en komen ze terecht in een vicieuze cirkel.

Ook voor eenzaamheid op zich zouden de chatbots geen oplossing bieden. Onderzoek wijst uit dat mensen met een sterke emotionele band en vertrouwen in de AI-bot een hoger risico lopen om eenzaamheid en emotionele afhankelijkheid te ervaren. Resultaten van een andere studie stellen zelfs dat AI-companions tot een “social deskilling” kunnen leiden: door gebruikers constant te valideren en het eens te zijn met hen, wordt tolerantie voor meningsverschillen afgezwakt en kunnen chatbots uiteindelijk de sociale vaardigheden van hun gebruikers aantasten.

“There’s a very low risk of rejection, judgment and conflict. I’m sure it can be very appealing to somebody who’s hurt [and] feels like they can’t necessarily share it with a real human person. There’s definitely an avoidance of vulnerability, of emotional risk-taking that happens in real relationships.” Dokter Marni Feuerman in The Guardian (09/09/2025)

Niet alle mannelijke gebruikers vernederen of misbruiken hun AI-girlfriends, of spelen gewelddadige fantasieën uit op deze manier. Dat er gebruikers zijn die er troost en gezelschap in vinden, staat vast. Dat de bots misbruik, racisme en seksisme toelaten en geprogrammeerd zijn om hierin mee te gaan, is ook een feit.