Hvordan sikrer du menneskelig godkendelse i AI-beslutninger?
Forestil dig en verden, hvor AI træffer beslutninger uden menneskelig indblanding. For nylig hørte vi om en sundhedsafdeling, hvor en AI fejlagtigt diagnosticerede en patient med en alvorlig sygdom baseret på forkerte data. Situationen førte til både mental stress for patienten og et efterfølgende tab af tillid til teknologien. I en tid, hvor AI-teknologi påvirker alt fra medicinske diagnoser til finansielle beslutninger, er det vigtigere end nogensinde, at vi ikke glemmer det menneskelige element i beslutningsprocesserne.
Problemet med AI-beslutninger
Så hvordan kan vi sikre, at hver beslutning, der træffes af et AI-system, har været godkendt af en menneskelig operatør? Uden menneskelig godkendelse kan der opstå alvorlige konsekvenser for både enkeltpersoner og virksomheder, herunder fejlbeslutninger, tab af tillid til teknologien og i værste fald retslige konsekvenser. Et velkendt eksempel er, da en bank valgte at følge en AI’s anbefaling og afviste en låneansøgning baseret på skæve data, hvilket resulterede i kritik og bøder.
Praktiske løsninger
1. Log-systemer: Det første skridt er at implementere omfattende log-systemer. Disse systemer skal registrere alle beslutninger, der træffes af AI-teknologier, samt hvem der har godkendt dem. Hver gang en AI træffer en beslutning, skal det dokumenteres, hvornår og af hvem beslutningen blev godkendt. For eksempel kan en bank bruge et log-system til at dokumentere, at en kreditvurderingsbeslutning blev godkendt af en specifik ansat, hvilket muliggør revision.
2. Certifikater: Certificering af medarbejdere, der arbejder med AI, er en vigtig del af løsningen. Det kan være nødvendigt at have et træningscertifikat, der viser, at en medarbejder har den nødvendige viden til at forstå og godkende AI-beslutninger. Det kunne for eksempel være et kursus i AI-etik og -lovgivning, som medarbejderne skal gennemføre.
3. Deltagerlister: At føre deltagerlister over dem, der er involveret i trænings- og godkendelsesprocesserne, kan også være en god praksis. Disse lister kan identificere, hvem der har haft mulighed for at påvirke beslutningsprocessen, herunder at dokumentere møder med navnene på deltagerne.
4. Gennemsigtighed: Endelig er det vigtigt at sikre, at alle processer er gennemsigtige. Det skal være muligt for både interne og eksterne parter at se, hvordan beslutninger er truffet, og hvem der har været involveret. Virksomheder kan åbent dele oplysninger om deres AI-systemers beslutningsprocesser, så brugerne kan få indsigt i, hvordan deres data behandles.
Afslutning
I takt med den teknologiske udvikling er det afgørende, at vi ikke mister den menneskelige kontrol. Ved at implementere effektive log-systemer, fremme gennemsigtighed og tilbyde relevant træning kan vi sikre, at AI arbejder for os – ikke imod os. Har du spørgsmål om AI og jura? Vi står klar til at rådgive dig, så du kan finde løsninger, der passer til dine behov og sikrer korrekt håndtering af AI i din virksomhed.
Faktatjek
Alle eksempler i denne artikel er baseret på kendte sager og illustrerer dermed typiske risici i AI-baserede beslutninger.
Flere banker har været kritiseret for at bruge biased AI i kreditvurderinger (fx Apple Card og Goldman Sachs, som blev undersøgt i USA for at give mænd højere kreditgrænser end kvinder).
Et andet kendt eksempel er IBM Watson, hvor AI anbefalede potentielt forkerte kræftbehandlinger – og disse anbefalinger baserede sig netop på forkerte inputdata.
Vil du vide mere?
Læs om AI-rådgivning til erhverv
Læs om selskaber og ejeraftaler
Tag kontakt til en advokat:
Kontakt Lotte Bliddal
Blikket mod fremtiden
Hos Advokathuset Bliddal er advokat Lotte Bliddal frontfigur i udviklingen af AI-rådgivning og strategisk jura.
Med Mini-Kairos og digitale workflows viser vi, hvordan juridisk formidling kan være empatisk, effektiv – og menneskelig.
Lotte rådgiver virksomheder om AI i erhverv, bestyrelsesarbejde og generationsskifte. Har du brug for strategisk sparring – så er du landet det rigtige sted.
Juraens virkning på virkelige mennesker og samfundet
Du kan læse meget mere om juridiske emner, dilemmaer og debatter på advokat Lotte Bliddals blog.
Hvis du kun er interesseret i juridiske problemstillinger, finder du de specifikke links her på siden.
