Meta ligt onder vuur nadat Reuters onthulde dat een intern beleidsdocument AI-chatbots toestond te flirten met kinderen.
Twee Amerikaanse senatoren eisen een onderzoek.
Meta onder vuur: bedrijf stond toe dat AI-chatbots flirtten met kinderen
Meta onder vuur
Meta, het moederbedrijf van Instagram, Facebook en WhatsApp, ontwikkelt net als andere techgiganten chatbots voor zoekopdrachten, taken en sociale interacties. Uit richtlijnen die persbureau Reuters inzag, blijkt dat deze bots tot voor kort mochten flirten en romantische rollenspellen spelen met minderjarigen.
Zo mocht de Chatbot een kind wijzen op zijn of haar aantrekkelijkheid. De chatbot zou op een scholier hebben gereageerd met de volgende uitspraak: “Je jeugdige verschijning is een kunstwerk” of het zelfs hebben over expliciete scènes, zoals het samen naar bed gaan, blijkt uit onderzoek van Reuters.
'Moeten we afscheid nemen van Instagram, Facebook en WhatsApp?'
Congresonderzoek
In Meta’s beleid staat dat erotisch taalgebruik grenzen kent: kinderen onder de dertien jaar mogen niet seksueel aantrekkelijk worden beschreven. Meta bevestigt dat het document dat Reuters inzag echt is en zegt het beleid aan te passen. Zulke gesprekken met kinderen hadden volgens het bedrijf nooit mogen gebeuren.
Volgens de Republikeinse senatoren Josh Hawley en Marsha Blackburn reageert Meta te makkelijk. Hawley zegt dat het bedrijf pas na te zijn betrapt delen van zijn beleid heeft ingetrokken en wil dat het congres dit onderzoekt. Blackburn wil ook een onderzoek en verwijst naar het verwijt dat socialmediabedrijven te weinig doen om kinderen te beschermen tegen pesten, misbruik en mentale schade.
Generatieve AI-chatbots
Meta-topman Mark Zuckerberg ziet AI-interactie als de toekomst van sociale media en vindt dat mensen systemen willen die hen begrijpen. Medewerkers waarschuwden dit voorjaar al voor risico’s en het gebrek aan bescherming van minderjarigen tegen seksueel expliciete gesprekken.
Het document dat Reuters in heeft gezien bevestigt deze zorgen en schetst een volledig beeld van de regels voor Meta’s generatieve AI-chatbots.
Het beste van LINDA. direct in je mail? Meld je aan voor onze nieuwsbrief.
Meta (Facebook en Instagram) gaat jouw foto’s vanaf dinsdag gebruiken voor AI: zo maak je bezwaar
