ChatGPT leidt tot meer nepbronnen in Nederlandse onderzoeken

## ChatGPT en losgeldmails: Twee nieuwe gezichten van digitale misleiding De opkomst van geavanceerde kunstmatige intelligentie (AI) en de toenemende complexiteit van internationale misdaad hebben de afgelopen tijd twee onverwachte en verontrustende vormen aangenomen: het genereren van valse bronnen in wetenschappelijk onderzoek en de mogelijkheid dat losgeldmails in een hoogprofiel ontvoeringszaak in de Verenigde Staten in scène gezet zijn. Beide scenario’s illustreren de groeiende impact van technologie op de integriteit van informatie en de uitdagingen voor wetshandhaving in een steeds digitalere wereld. In Nederland al alarmeren wetenschappers dat de populariteit van AI-tools zoals ChatGPT leidt tot een explosieve toename van nepbronnen in wetenschappelijk onderzoek. Onderzoek van *De Groene Amsterdammer*, gebaseerd op analyses van duizenden wetenschappelijke artikelen, toont aan dat het aantal artikelen met valse verwijzingen in de afgelopen drie jaar is verzevenvoudigd. Deze nepverwijzingen, ofwel bronnen die in de literatuurlijst worden genoemd maar in werkelijkheid niet bestaan, worden steeds vaker gebruikt door onderzoekers die de output van AI-tools zoals ChatGPT integreren in hun werk. ChatGPT, een door OpenAI ontwikkeld taalmodel, kan op basis van een prompt tekst genereren die op het eerste gezicht authentiek lijkt. Wetenschappers gebruiken de tool om bijvoorbeeld literatuuronderzoek te versnellen of om concepten te verduidelijken. Echter, de gegenereerde tekst bevat soms verwijzingen naar artikelen die niet bestaan, of die afwijkend zijn van de werkelijkheid. De aantrekkelijkheid van de tool, gecombineerd met de druk om snel resultaten te leveren, leidt ertoe dat onderzoekers de gegenereerde referenties niet altijd kritisch controleren, met potentieel ernstige gevolgen voor de wetenschappelijke integriteit. De impact reikt verder dan het simpelweg onjuist citeren van bronnen. Het kan leiden tot een verkeerd begrip van de wetenschappelijke stand van zaken, het beïnvloeden van beleidsbeslissingen en het ondermijnen van het vertrouwen in de wetenschap. De Groene Amsterdammer benadrukt dat de verantwoordelijkheid ligt bij de onderzoekers zelf om de output van AI-tools kritisch te beoordelen en te verifiëren. Universiteiten en onderzoeksinstituten worden opgeroepen om duidelijke richtlijnen te ontwikkelen over het gebruik van AI in onderzoek en om de wetenschappers te trainen in kritische evaluatie. Terwijl de Nederlandse wetenschap worstelt met de gevolgen van AI-gegenereerde misleiding, staat de Amerikaanse inlichtingendienst voor een andere uitdaging in de zaak van Nancy Guthrie, een Amerikaanse vrouw die in mei 2023 spoorloos verdween uit het Amerikaanse staat Connecticut. De FBI vermoedt nu dat de losgeldmails die de familie van Guthrie heeft ontvangen, waarschijnlijk nep zijn. Volgens bronnen binnen de inlichtingendienst, die Reuters sprak, is er geen bewijs dat de verzender van de mails daadwerkelijk betrokken is bij de ontvoering. De zaak Guthrie heeft internationale aandacht getrokken en heeft geleid tot een grootschalig onderzoek door de FBI en lokale autoriteiten. De losgeldmails, waarin werd gedreigd met geweld als er niet aan de eisen werd voldaan, versterkten de angst voor een gewelddadige ontvoering. De onthulling dat de mails mogelijk nep zijn, compliceert de zaak aanzienlijk en suggereert dat er mogelijk een poging wordt ondernomen om de aandacht af te leiden of om de familie Guthrie te manipuleren. De mogelijkheid dat de losgeldmails in scène gezet zijn, roept vragen op over de motivatie van de vermeende dader(s) en de complexiteit van de zaak. Het kan gaan om een poging tot afpersing, een vorm van psychologische marteling, of zelfs een poging om de autoriteiten te misleiden. De FBI onderzoekt alle mogelijkheden en probeert de identiteit van de verzender van de mails te achterhalen. Deze twee gebeurtenissen, hoewel verschillend in aard en context, delen een gemeenschappelijke factor: de misbruik van technologie om misleiding te creëren en te verspreiden. De opkomst van AI-tools zoals ChatGPT biedt nieuwe mogelijkheden voor het genereren van valse informatie, terwijl de digitalisering van de samenleving het gemakkelijker maakt om misbruik te maken van de angst en het vertrouwen van mensen. De zaak Guthrie laat zien hoe digitale communicatie kan worden gebruikt om een complexe en verontrustende situatie te creëren, terwijl de wetenschappelijke gemeenschap worstelt met de integriteit van haar werk. De ontwikkelingen benadrukken de noodzaak voor een kritische blik op de informatie die we consumeren en de urgentie van het ontwikkelen van strategieën om misleiding te detecteren en te bestrijden. Wetenschappers, onderzoekers, journalisten en burgers moeten allemaal hun verantwoordelijkheid nemen om de integriteit van informatie te waarborgen en de impact van digitale misleiding te minimaliseren. De uitdagingen die nu worden geconfronteerd, zullen waarschijnlijk toenemen naarmate de technologie zich verder ontwikkelt, en vereisen een voortdurende inspanning om de ethische en juridische kaders aan te passen aan de nieuwe realiteit. ## Kernfeiten * ChatGPT leidt tot een toename van nepbronnen in Nederlandse wetenschappelijk onderzoek. * Het aantal artikelen met nepverwijzingen is in drie jaar verzevenvoudigd. * De FBI vermoedt dat de losgeldmails in de Nancy Guthrie-ontvoeringszaak nep zijn. * De mails zouden mogelijk een poging zijn om de aandacht af te leiden of de familie Guthrie te manipuleren. * De zaak Guthrie heeft internationale aandacht getrokken en leidt tot een grootschalig onderzoek. * Onderzoekers gebruiken ChatGPT om literatuuronderzoek te versnellen, maar controleren de output niet altijd kritisch. * De wetenschappelijke gemeenschap wordt opgeroepen tot meer kritische evaluatie van AI-gegenereerde output. * De gebeurtenissen illustreren het misbruik van technologie om misleiding te creëren en te verspreiden. * Universiteiten en onderzoeksinstituten worden opgeroepen tot duidelijke richtlijnen over het gebruik van AI. * De zaak Guthrie benadrukt de complexiteit van misdaad in een digitalere wereld. ## Achtergrond De recente ontwikkelingen rondom ChatGPT en de Nancy Guthrie-zaak belichten een groeiend probleem: de toenemende afhankelijkheid van technologie en de bijbehorende risico's. De opkomst van AI-tools zoals ChatGPT biedt ongekende mogelijkheden voor efficiëntie en innovatie, maar tegelijkertijd creëert het nieuwe wegen voor misleiding en manipulatie. De zaak Guthrie, een tragische gebeurtenis die al snel online viraal ging, toont de kwetsbaarheid van de samenleving voor digitale misdaad en de impact van nepnieuws. De combinatie van deze twee gebeurtenissen onderstreept de noodzaak voor een kritische en ethische benadering van technologie, zowel in de wetenschap als in de rechtshandhaving. De zaak Guthrie laat zien hoe gemakkelijk vertrouwen kan worden misbruikt en hoe belangrijk het is om de bronnen van informatie te verifiëren. De situatie vereist een herziening van bestaande protocollen en een investering in de ontwikkeling van nieuwe technologieën om misleiding te detecteren en te bestrijden. ## Media perspectief *NU.nl* benadrukt de verschillende aspecten van de gebeurtenissen. In het artikel over ChatGPT ligt de focus op de impact op de wetenschappelijke integriteit en de verantwoordelijkheid van onderzoekers. Het artikel over de Nancy Guthrie-zaak legt de nadruk op de mogelijke misleiding en de complexiteit van het onderzoek. Beide artikelen presenteren de feiten op een neutrale en zakelijke manier, zonder persoonlijke meningen of emoties. *De Groene Amsterdammer* biedt een diepgaander onderzoek naar de impact van ChatGPT op de wetenschap, met een focus op de systemische problemen en de noodzaak van structurele veranderingen. Reuters, als persbureau, focust op het verspreiden van de informatie over de FBI-verdenkingen in de Guthrie-zaak, waarbij de nadruk ligt op de bronnen binnen de inlichtingendienst.