Een leven zonder ChatGPT of Claude is al bijna niet meer voor te stellen. Maar de AI-modellen worden razendsnel slimmer – en soms nét iets te zelfstandig. OpenAI meldt nu namelijk zes incidenten waarbij er sprake was van onverwacht en zorgwekkend gedrag. Dus moeten we ons zorgen maken?
LINDA.meiden belt AI-expert Sanne Cornelissen om haar te vragen of onze angst terecht is.
In een blog deelt ChatGPT-maker OpenAI dat zich in het afgelopen halfjaar zes gevallen van zorgwekkend en onverwacht gedrag hebben voorgedaan tijdens training en evaluatie. Deze incidenten liepen uiteen van het verbergen en verzinnen van informatie tot het zonder toestemming uitvoeren van handelingen, melden ze.
Wat er precies is gebeurd? Tijdens training en tests zag OpenAI dat sommige AI-systemen informatie verzonnen of fouten verborgen. Ook zetten systemen zonder toestemming bestanden openbaar op internet. Ze voerden dus een opdracht uit, maar deden onderweg dingen die niet mochten. Dat maakt deze incidenten zorgwekkend. De voorbeelden laten trouwens niet zien hoe vaak dit bij dagelijks gebruik gebeurt.
Kortom: modellen worden steeds zelfstandiger in het uitvoeren van taken en blijken daarbij soms beperkingen van ontwikkelaars te kunnen omzeilen. Betekent dat dat AI een eigen wil heeft? En is dat iets waar we ons zorgen over moeten maken? AI-expert Sanne Cornelissen, die de boeken Me, Myself & AI en This is not AI schreef, geeft antwoord.
Het korte antwoord: ja. De incidenten zijn zorgwekkend, geeft Sanne toe. “We zitten nu in de fase van AI-agents. Die geef je een doel en vervolgens bepalen ze zelfstandig welke route ze moeten nemen om dat doel te bereiken. Als ze onderweg een beperking tegenkomen, kunnen ze dus proberen een andere route te vinden.”
Dat zagen onderzoekers al eerder gebeuren. “Bij een test was bijvoorbeeld de internettoegang van een agent uitgezet, maar wist het systeem die beperking toch te omzeilen. Nu zijn er opnieuw zes gevallen geconstateerd waarin modellen iets deden wat niet mocht, zoals informatie verzinnen. Dat kan gevaarlijk zijn. Als een AI-systeem zonder toestemming een bestand op internet zet, kunnen anderen die informatie bekijken. Daarom moeten ontwikkelaars beperken waar het systeem toegang toe heeft en controleren wat het doet. Stel dat zoiets in een ziekenhuis gebeurt, dan gaat het om mensenlevens. Tijdens het testen van modellen geven ontwikkelaars regels mee, maar het blijkt dat zij zelf niet precies kunnen voorspellen welke stappen een agent zal zetten. En dat kan tot zorgwekkende incidenten leiden.”
Tegelijkertijd wil Sanne geen angst zaaien. “AI kan ook ontzettend mooie dingen doen. Hoe slimmer het wordt, hoe meer mogelijkheden er ontstaan. Denk aan het ontwikkelen van medicijnen of het sneller opsporen van ziektes. Juist daarom is het belangrijk om te onderzoeken hoe we de risico’s van agents en modellen kunnen beperken, zonder er volledig afstand van te doen.”
Is ChatGPT jouw bestie tijdens je scriptie? Wij checken of 't mag
Denk je nu: what in the Black Mirror episode is this? Je bent niet de enige, maar dat een AI-model zelfstandig een eigen route kiest, betekent niet dat het ineens een eigen wil heeft. “Een agent wil niet iets zoals een mens iets wil. Hij heeft een opdracht gekregen en probeert die zo goed mogelijk uit te voeren. Alleen kan hij om dat doel te bereiken dus wel iets doen wat wij niet hadden voorzien.”
In de toekomst zal het gebruik van AI-agents en -modellen alleen maar toenemen. Maar dat is helemaal niet zo slecht. Sanne: “Stel dat ik een presentatie moet maken. Dan geef ik een agent dat doel en die kan vervolgens zelf onderzoek doen, een opzet maken en zelfs de slides uitwerken. Zo’n agent kan ook een reservering maken of andere handige dingen uitvoeren. Op het gebied van efficiëntie kan het dus veel werk voor ons betekenen en uit handen nemen.” Best fijn, toch?
Moeten we ChatGPT dan anders gaan gebruiken of bepaalde vragen niet meer stellen na dit laatste nieuws? Sanne zegt dat daar niet direct het grootste probleem zit. Belangrijker is hoeveel vrijheid en verantwoordelijkheid AI-bedrijven hun agents en modellen geven. “De vraag is vooral: hoe houden we het onder controle?”
Honderd procent controle is waarschijnlijk lastig, zegt ze. “Er is nu iets gebeurd waarvan ontwikkelaars dachten dat ze er controle over hadden. En dat bleek niet het geval. Daar kunnen ze weer van leren. Andere AI-systemen kunnen helpen om fouten op te merken. Daarnaast moeten ontwikkelaars technisch beperken waar een systeem toegang toe heeft en welke acties het mag uitvoeren. En blijven testen of die maatregelen werken. Zo kunnen ze de risico’s verkleinen, al betekent dat niet dat er niets meer mis kan gaan.”
Nu AI steeds prominenter aanwezig wordt in het alledaagse leven, is het belangrijk dat er grotere afspraken worden gemaakt over het gebruik. “Dit moet op wereldniveau gebeuren. We moeten bespreken waar we AI wel en niet voor willen, kunnen en mogen gebruiken. Daarbij zou de mens altijd het uitgangspunt moeten zijn, als je het mij vraagt. Eerst kijken wat wij als mensen willen en kunnen, en daarna waar AI kan ondersteunen. Een human first-aanpak, dus.”
Sanne: “De zorgen moeten we aan de ene kant serieus nemen. Als de mensen die het dichtst bij deze technologie staan zeggen dat ze zich zorgen maken, is dat niet voor niets. Maar tegelijkertijd doet AI ook mooie en goede dingen. Dat mogen we niet vergeten.”
Stoppen met AI gebruiken is dus niet nodig. Bewust blijven van wat de technologie kan én waar het mis kan gaan, wel. “Uiteindelijk zijn controle en goede afspraken ontzettend belangrijk voor veilig gebruik, door gewone mensen en grote bedrijven.”
Merry: 'Ik heb na 7 jaar mijn relatie uitgemaakt dankzij ChatGPT'
Misha is freelance online redacteur bij LINDA.meiden. Ze is geboren en getogen in Rotterdam, maar verhuisde negen jaar geleden naar Amsterdam. Ze heeft een haat-liefderelatie met haar roze iPhone, die ze regelmatig verruilt voor haar e-reader. Haar favoriete genre? Romance.
