Waarom je team AI te veel of te weinig vertrouwt

In bijna elk team zie je het gebeuren. De een plakt alles in ChatGPT en neemt het antwoord over. De ander probeert het één keer, ziet een fout en raakt het daarna niet meer aan. Allebei zijn het heel menselijke reacties, en allebei kosten ze je team tijd en kwaliteit.

Te weinig vertrouwen: één fout en het is klaar

Onderzoekers noemen dit algoritme-aversie. In een reeks experimenten lieten Dietvorst, Simmons en Massey (2015) mensen kiezen tussen hun eigen voorspelling en die van een algoritme. Wie het algoritme een fout had zien maken, koos er daarna veel minder vaak voor. Ook als het algoritme het gemiddeld beter deed dan de mensen zelf.

Herkenbaar? Een collega vraagt AI om een samenvatting, ziet één verkeerd getal en concludeert dat het “niet werkt”. Over een collega die één fout maakt, zouden we dat nooit zeggen.

Te veel vertrouwen: het ziet er zo goed uit

Het omgekeerde bestaat ook. Logg, Minson en Moore (2019) vonden dat mensen in sommige situaties een advies juist eerder opvolgen als ze denken dat het van een algoritme komt. En wie met geautomatiseerde systemen werkt, gaat minder goed controleren naarmate het systeem betrouwbaarder lijkt (Parasuraman & Manzey, 2010). Dat heet automation bias.

Bij taalmodellen speelt dat extra sterk. Een AI-antwoord is altijd netjes geformuleerd, zelfverzekerd en goed gestructureerd. Of het klopt, zie je er niet aan af.

Waarom AI altijd overtuigend klinkt

Een taalmodel weet niets in de gewone betekenis van het woord. Het voorspelt steeds het meest waarschijnlijke volgende woord, op basis van enorme hoeveelheden tekst. Daardoor klinkt een antwoord altijd vloeiend, ook als de inhoud niet klopt.

Wie dat snapt, stelt een andere vraag. Niet “klinkt dit goed?”, maar “kan ik dit controleren, en is dat hier nodig?”

Het juiste vertrouwen per taak

Het doel is dus niet dat je team AI meer of minder vertrouwt. Het doel is dat het vertrouwen past bij de taak. Onderzoek onder consultants laat zien waarom dat ertoe doet: bij taken waar AI goed in is, werkten ze sneller en beter. Bij een taak die daarbuiten viel, kwamen ze juist vaker tot een verkeerde oplossing dan collega’s zonder AI (Dell’Acqua e.a., 2023).

Drie vragen die helpen:

• Kan ik het antwoord controleren? Bij een mail die je zelf naleest is het risico klein. Bij cijfers, bronnen of juridische tekst is dat anders.
• Wat gebeurt er als het fout is? Hoe groter de gevolgen, hoe meer controle nodig is.
• Weet ik zelf genoeg van dit onderwerp? AI is het sterkst als hulp bij werk dat je zelf ook zou kunnen beoordelen.

Maak er een teamgesprek van

Vertrouwen in AI los je niet op met een handleiding. Het ontstaat in gesprekken: wat ging goed, wat ging mis, waar let je op? Teams leren het best als mensen zich veilig voelen om twijfels en fouten te delen (Edmondson, 1999). Dat geldt hier net zo goed. Wie durft te zeggen “ik vertrouw het niet” of “ik heb het klakkeloos overgenomen”, helpt het hele team verder.

Begin klein. Bespreek in je volgende overleg één voorbeeld waarin AI hielp, en één waarin het misging. Je zult merken dat iedereen een verhaal heeft.