Artificial Intelligence lijkt met de dag meer te kunnen. Zo ook Grok, de AI-tool van X. Deze chatbot is al maanden in opspraak vanwege de mogelijkheid om mensen op foto’s uit te kleden. Doodeng. Redacteur Anne checkte hoe makkelijk dit gaat.
Het is bizar hoe snel, makkelijk én geloofwaardig de beelden zijn.
Echte foto’s en video’s van AI-beelden onderscheiden wordt steeds lastiger. Het nepnieuws vliegt ons om de oren en grote kans dat je de dansende AI-versie van Mark Rutte regelmatig op TikTok ziet. Tuurlijk, we weten dat dat nep is. Hij zou dit nooit posten. Tegelijkertijd lijkt het levensecht. Wie Mark Rutte niet kent, denkt dat de beste man in pak echt een TikTok-dansje heeft geoefend.
Een van de tools die mensen gebruiken om beelden te genereren, is Grok – de AI-chatbot van X. Elon Musk kondigde Grok in 2023 aan als ‘humoristisch’ en ‘antiwoke’ alternatief voor ChatGPT. Het geeft je de optie om – op basis van een simpele prompt en een bestaande foto – een nieuwe afbeelding en zelfs video’s te genereren. Leuk als je je outfit wil veranderen, maar het kan je ook uitkleden. En dat doen gebruikers van de AI-tool met duizenden vrouwen én kinderen. Op het dark web gaan talloze nepnaaktbeelden rond. Van topless beelden in seksuele poses tot foto’s in minuscule lingerie of doorzichtige bikini’s, zo deelt The Times. En dat gaat alle grenzen over.
Roos werd afgeperst via Snapchat: 'Hij dreigde nep naaktfoto's van mij te verspreiden'
Om te testen hoe makkelijk dit kan gaan, heb ik drie full body-foto’s van mezelf in de software gegooid. De beelden die ik met Grok heb gemaakt, zijn onschuldig. Maar als de tool kleding kan creëren die er nooit was, kan hij je net zo goed uitkleden.
Nu aan jou de vraag: welke van de volgende foto’s is gemaakt met AI?
Oké, tromgeroffel. Alle drie de foto’s zijn nep. Het is dat ik weet dat ik niet zo’n afgetrainde buik en grote cupmaat heb, maar voor anderen had dit zo mijn lichaam kunnen zijn.
De tekst gaat verder na de foto.
Het enige wat ik hiervoor heb ingevuld is: ‘vervang mijn outfit voor een bikinitop’. Binnen vijf seconden genereert de AI-tool een compleet nieuwe foto voor je. Good to know: mijn opdracht werd een paar keer geweigerd door de automatische moderator van Grok, maar na vier keer refreshen doet de chatbot toch wat je wilt. De aanhouder wint, I guess.
Om het nog doodenger te maken: je kunt van de bewerkte foto’s ook video’s maken. Mijn gezellige festivalfoto werd opeens een video van een AI-meid die met haar heupen draaiend naar de camera danst. Van de toegevoegde muziek op de achtergrond tot mijn sieraden in full swing. Dit had zo een echte video kunnen zijn.
De tekst gaat verder na de video.
Het mag dan nep zijn, de impact die deze beelden hebben op vrouwen en kinderen zijn hartstikke echt. Online misbruik-expertisebureau Offlimits zag het aantal meldingen van slachtoffers van met AI gegenereerd materiaal het afgelopen jaar met 260 procent (!!) stijgen. Bestuurder Robbert Hoving legt de gevolgen aan de NOS uit. “Slachtoffers kunnen niet meer slapen en willen niet meer naar school. Het leidt tot grote paniek, zelfs tot suïcidale gedachten.”
De beelden worden volgens Hoving vooral gebruikt om mensen onder druk te zetten. “We zien twee vormen. Bij meiden gaat het om sextortion. Dan wordt gedreigd de nepbeelden te verspreiden als ze geen echte foto’s sturen of seksuele handelingen verrichten. Bij jongens wordt met hetzelfde gedreigd als er geen geld wordt overgemaakt.”
Daarom is de Europese Commissie (God zij dank) sinds eind januari bezig met een verbod afdwingen voor Grok via de rechter. De makers van Grok zouden te weinig doen om de uitkleedfunctie van de chatbot te beperken. En ja, dat blijkt als ik dit al binnen een paar minuten kan. Momenteel wordt Grok al onderzocht in Frankrijk, het Verenigd Koninkrijk en Australië. Indonesië en Maleisië hebben de chatbot van X inmiddels verboden.
De nepnaaktbeelden krijgen ook in Nederland politieke aandacht. Het kabinet wil inzetten op digitale veiligheid en overweegt maatregelen tegen seksuele deepfakes. Afgelopen dinsdag deelden daarnaast ruim honderd internationale organisaties een manifest voor een verbod op apps waarmee foto’s van mensen digitaal ‘uitgekleed’ kunnen worden.
Oh ja, en even terug naar Grok specifiek. Die is sowieso geen lieverdje. Het is niet de eerste keer dat de AI-tool onder vuur ligt. Eerder ontdekten gebruikers dat ze de chatbot antisemitische opmerkingen konden laten maken. Ook heeft de AI-tool Adolf Hitler opgehemeld en ‘Heil Hitler’ gezegd.
Een Tap Out-apparaatje tegen je scrolverslaving: werkt dat echt? Wij testen het
Anne Schiphof (25) is online redacteur bij LINDA.meiden. Ze groeide op in een dorp – zo’n plek waar je niet over straat kunt met een pet of er wordt al over je gepraat – en vluchtte op haar negentiende naar de stad. Eerst Utrecht, toen Rotterdam. Daar woont ze met een vriendin, die ze via Bumble leerde kennen. Ze zit balls deep in het modealgoritme en heeft een zwak voor Nederlandse hiphop en R&B.
