Een chatbot die zich voordoet als een echt persoon: My AI in het populaire Snapchat zorgt voor de nodige kritiek. Niet zo gek, want je kon een afspraakje maken met de bot.
Een zorgelijk iets, volgens deskundigen.
Experts doen dringende oproep aan ouders: 'Houd kind voorlopig van Snapchat vanwege nieuwe bot'
Menselijke chatbot
Het social mediaplatform heeft geluisterd naar de kritiek en de functie inmiddels aangepast. My AI doet zich niet meer voor als persoon, maar als virtuele vriend. Ook kunnen er geen ‘dates’ meer gemaakt worden.
“Kinderen zien niet altijd de signalen dat ze met een bot praten”, aldus Justine Pardoen van Bureau Jeugd en Media tegen Hart van Nederland.
Tekst gaat verder onder de video.
In de chatbot kunnen kinderen vragen stellen, maar hij ook aan jou. Daarom lijkt het net alsof je met echt persoon aan het kletsen bent.
“Het is geen persoon, hij begrijpt je niet. Dat moeten wij met onze volwassen hersenen ook steeds zeggen, want het lijkt net alsof het een echt mens is waar je mee praat. Voor een kind is dit niet te verwerken. Dat kan dit niet begrijpen en de consequenties niet overzien.”
Gevaarlijk
Pardoen geeft aan dat de bot echt gevaarlijk kan zijn, zeker voor jongeren die bijvoorbeeld suïcidaal zijn. “Als deze mensen in zo’n gesprek terechtkomen, kunnen ze weleens heel verkeerde adviezen krijgen.”
Ook al is My Al aangepast, toch zijn er nog steeds zorgen. “Het is moeilijk voor te stellen voor de gemiddelde mens, maar dit zijn zelflerende systemen die intelligenter en slimmer kunnen worden dan wij zelf zijn. Ik ben hier echt bang voor. Vooral omdat ik zie dat er niet door alle bedrijven zorgvuldig mee omgegaan wordt.”
Worstel je met suïcidale gedachten of maak je je zorgen om iemand anders? Praat erover. Bel 113 of ga naar www.113.nl. Stichting Zelfmoordpreventie is 24 uur per dag en zeven dagen per week bereikbaar.
