Den falske tryghed, der gør dine AI-systemer dårligere: Human in the Loop - Soloafsnit med Dan Rose

"Vi sætter bare et menneske ind i loopet" er blevet standardsvaret, når compliance spørger til risici. Men hvad nu hvis det gør tingene værre? I det her soloafsnit tager Dan Rose fat på Human in the Loop – et begreb, der er vokset eksplosivt og er skrevet direkte ind i EU's AI Act, men som forskning viser gang på gang kan sænke kvaliteten, forværre bias og reducere dygtige medarbejdere til juridiske stødpuder. Dan kommer ind på: Præstationsparadokset: Hvorfor menneske plus AI ikke altid giver det bedste resultat – og hvornår AI faktisk klarer sig bedre alene. De kognitive faldgrupper:  Vigilance decrement, belejlighedsbias, forankringsbias og bekræftelsesbias – og hvad de gør ved dine medarbejdere, når de sættes til at godkende AI-output. Den moralske deformationszone:  Hvorfor Human in the Loop alt for ofte er et "cover your ass"-værktøj, der placerer ansvaret hos medarbejderen uden at give dem reel kontrol. Tre konkrete designgreb: Kognitiv tvangsfunktion, delegation inversion og kortet vs. terrænet – sådan bygger du workflows, der rent faktisk virker. Har du ønsker til emner eller gæster? Skriv til dan.rose@todai.ai Kildeliste: Human-AI Synergy (MIT, 2025): Når mennesker gør AI dårligere: https://mitsloan.mit.edu/ideas-made-to-matter/when-humans-and-ai-work-best-together-and-when-each-better-alone Ansvarshuller (AU, 2023): Hvorfor det er uetisk at give medarbejderen ansvaret for AI-fejl: https://link.springer.com/article/10.1007/s10676-023-09699-6 Manglende Metaviden (2022): Vi er dårlige til at vurdere, hvornår vi skal stole på maskinen: https://pubsonline.informs.org/doi/10.1287/isre.2021.1079 Kognitive Tvangsfunktioner: Fartbump der tvinger os til selv at tænke: Studie 1: https://arxiv.org/abs/2101.04517 Studie 2: https://arxiv.org/abs/2402.16279 Moral Crumple Zones (2019): Mennesket som "deformationszone" når teknikken fejler: https://estsjournal.org/index.php/ests/article/view/260 Case: Zillows algoritme-flop (2021): Da AI-styrede boligkøb kostede millioner: https://www.gsb.stanford.edu/insights/flip-flop-why-zillows-algorithmic-home-buying-venture-imploded Succes-case: Radiologi (2023): Markant bedre diagnosticering via AI-støtte: https://pubmed.ncbi.nlm.nih.gov/37993303/