Let op gebruik van AI bij archiefonderzoek in het KDC

AI-zoekresultaten kloppen deels of niet

AI-tools zijn vooral sterk in het combineren en samenvatten van informatie uit verschillende bronnen. Daardoor kunnen zij snel overzichten, analyses en antwoorden genereren waarmee gebruikers verder kunnen werken.

Achter de schermen werken deze systemen echter anders dan traditionele zoekmachines. Een AI-model berekent op basis van grote hoeveelheden gegevens welk antwoord waarschijnlijk het beste past bij je vraag. Simpel gezegd: een AI-chatbot maakt een goed onderbouwde gok.

Het risico hiervan is echter dat de gegenereerde informatie niet wordt gecontroleerd op feitelijke juistheid. Daardoor kunnen onjuiste aannames of fouten in de antwoorden terechtkomen. Zo heeft het KDC meerdere aanvragen ontvangen voor archieven die niet in onze collecties aanwezig zijn. In sommige gevallen gaf een AI-tool aan dat een bepaald archiefstuk waarschijnlijk bij het KDC berustte, terwijl dit niet het geval bleek te zijn. Dit leidt tot extra werk voor zowel onderzoekers als medewerkers.

Wat zijn AI-hallucinaties?

Foutieve antwoorden van AI-systemen worden vaak aangeduid als AI-hallucinaties. Een AI-hallucinatie ontstaat wanneer een AI-model informatie presenteert die niet bestaat of feitelijk onjuist is, maar wel geloofwaardig lijkt.

Dit gebeurt vooral wanneer er weinig of geen betrouwbare informatie beschikbaar is over een onderwerp. In plaats van aan te geven dat er geen gegevens gevonden zijn, kan een AI-systeem soms ontbrekende informatie aanvullen met verzonnen details.

Bij het KDC hebben we bijvoorbeeld aanvragen ontvangen voor boeken, artikelen en archiefstukken die niet blijken te bestaan. In dergelijke gevallen heeft het AI-systeem een titel, auteur of beschrijving gegenereerd die overtuigend oogt, maar nergens terug te vinden is. Omdat deze antwoorden vaak professioneel en volledig geformuleerd zijn, is het voor gebruikers niet altijd eenvoudig om het verschil tussen betrouwbare informatie en een AI-hallucinatie te herkennen.

Hoe herken je foutieve AI-antwoorden?

Een belangrijke stap is het controleren van de bronnen waarop een AI-antwoord is gebaseerd. Betrouwbare informatie hoort altijd herleidbaar te zijn naar een originele bron, zoals een website, publicatie of archiefbeschrijving.

Wanneer een AI-tool geen duidelijke bronvermelding geeft of verwijst naar bronnen die niet kunnen worden geopend of gecontroleerd, is extra voorzichtigheid geboden. Dit kan een aanwijzing zijn dat de verstrekte informatie onjuist is.

Een tweede controle is het opnieuw stellen van dezelfde vraag. Gebruik eventueel een andere formulering of raadpleeg een andere AI-tool. Wanneer de antwoorden sterk van elkaar verschillen, is dat vaak een signaal dat het antwoord helaas gehallucineerd is.

Controleer resultaten altijd in de KDC-catalogus

Voor onderzoek binnen de collecties van het KDC adviseren wij om informatie uit AI-tools altijd te controleren in onze eigen online catalogus. Wanneer een door AI genoemd archiefstuk, boek of document niet in de online archiefcatalogus of de bibliotheekcollectie terug te vinden is, bestaat er een grote kans dat de informatie onjuist is.

Natuurlijk kan AI een nuttig hulpmiddel zijn bij archiefonderzoek, maar het blijft belangrijk om zoekresultaten kritisch te beoordelen en altijd te controleren aan de hand van betrouwbare bronnen. Neem je verantwoordelijkheid onderzoeker en blijf kritisch! Op die manier voorkom je onnodige aanvragen en verhoog je de kwaliteit van het onderzoek.

Meer weten?

• Richtlijnen Radboud Universiteit: Verantwoord omgaan met AI
• Advies Nationaal Archief: archiefonderzoek met AI