Iedereen lijkt in de ban van kunstmatige intelligentie ofwel artificial intelligence (AI). Zowel op social media als op gerenommeerde journalistieke platforms is men dolenthousiast over de zegeningen die AI met zich mee zou brengen. Zelf experimenteer ik wel eens met Chat GPT en ik moet zeggen dat ik vaak aangenaam verrast ben door het resultaat.
Toch past hier een waarschuwing, want blind vertrouwen op door chatbots gegenereerde antwoorden is vragen om problemen. Naast goede ervaringen heb ik namelijk gemerkt dat een chatbot ook de grootst mogelijke onzin kan uitkramen.
Bij wijze van experiment stelde ik laatst een fiscale vraag, waarop de chatbot antwoordde met een groot citaat uit een gepubliceerd kennisgroepstandpunt. Niets mis mee, zou je zeggen. Maar raadpleging van het betreffende standpunt liet iets merkwaardigs zien: de chatbot had zelf een zin toegevoegd die, laten we zeggen, een nogal vreemde draai gaf aan het antwoord.
Ik confronteerde de chatbot met de kwestie en deze gaf, na enig doorvragen, toe dat hij (of zij?) die extra tekst zelf had ontleend aan een andere bron op internet. Boos worden heeft dan natuurlijk geen zin, hoewel dat wel logisch zou zijn. Alsof een werknemer met een foutief antwoord op de proppen komt! Maar doorvragen op zo'n geproduceerd antwoord kan dus wel. En het helpt ook als je de chatbot opdracht geeft om het antwoord te baseren op objectieve bronnen.
Oordeelsvermogen wordt minder
AI is betekenisvol en gaat ons natuurlijk veel brengen, maar alertheid blijft dus geboden. Recentelijk stuitte ik op twee publicaties die dat gevoel versterken. Allereerst heeft wetenschappelijk onderzoek uitgewezen dat artsen die voor het herkennen van ziektebeelden langdurig gebruikmaken van AI, daar zelf slechter in worden.
Een half jaar lang monitorde men een groep van negentien zeer ervaren artsen. Halverwege besloot het onderzoekscentrum de artsen te voorzien van een AI-programma. Ze kregen soms AI-ondersteuning en moesten dan weer zelf een diagnose stellen. Uiteindelijk bleek dat de artsen zelf tot 20% minder poliepen ontdekten, als AI hun werk controleerde. Er trad dus een zekere mate van gemakzucht op. Dit onderzoek heeft heel wat stof doen opwaaien.
Daarnaast publiceerden Amerikaans wetenschappers een onderzoek waaruit blijkt dat de hersenen van mensen die ChatGPT gebruiken minder verbindingen maken en informatie uitwisselen dan proefpersonen die geen online tools benutten. Ook bleek vrijwel niemand uit de ChatGPT-groep een volledige zin uit zijn of haar opstel te kunnen citeren, terwijl proefpersonen uit de andere groepen daar weinig of geen moeite mee hadden.
Eerst zelf research doen
Terug naar de fiscale wereld. Zelf ben ik geen wetenschapper, maar ik kan mij goed voorstellen dat gemakzucht op de loer ligt als je een lastig fiscaal probleem of een suggesties voor een artikel voorlegt aan een chatbot, die je vervolgens een panklaar antwoord of artikel cadeau doet.
Natuurlijk moeten je voorzichtig omgaan met de resultaten van het genoemde onderzoek en er vooral geen absolute betekenis aan toekennen. Maar om elke schijn te vermijden, kun je het beste toch zelf research doen naar een onderwerp waarover je meer wilt weten. Dwing de chatbot in elk geval tot gebruikmaking van objectieve bronnen.
Onlangs was ik aanwezig bij een congres, waar de vraag werd gesteld of juristen nog wel toekomst hebben met de opkomst van AI. Het is zeker zo dat veel zoekwerk, bijvoorbeeld naar jurisprudentie, zo veel sneller kan plaatsvinden. En AI is trouwens ook fantastisch in het aanleveren van denkrichtingen; dat is echt een verrijking. Maar factoren als de menselijke maat, empathie en vooral ook ervaring en inschattingsvermogen laten zich veel moeilijker vervangen door een robot. Hoewel mijn blik hier gekleurd kan zijn, aangezien ik natuurlijk ook een belanghebbende ben die zijn beroep wil blijven uitoefenen.
Toch een geweldig hulpmiddel
Ondanks deze kritische kanttekeningen ben ik een groot voorstander van vol inzetten op AI. Het kan ons veel werk uit handen nemen, zoals de eerste verkenning van een thema, het samenvatten van een bespreking of het snel opsommen van de hoofdpunten van een onderwerp.
Maar dan toch steeds als hulpmiddel om bijvoorbeeld zelf, op eigen kracht, te komen tot een brief of eindoordeel over een kwestie. Dat scherpt de geest en zorgt voor echte inhoudelijke vakontwikkeling. Laat je dus niet verleiden tot het door een chatbot laten schrijven van een artikel of column. De kans is groot dat je dan toch een keer door de mand valt! (bliep, bliep …)
