Undgå AI-fejl: Dokumentér menneskelig overvågning korrekt
Forestil dig, at din virksomhed har implementeret et avanceret AI-system til at analysere kundedata. Det fungerer perfekt – indtil en uventet fejl opstår, og beslutninger træffes uden menneskelig indblanding. I worst case-scenariet kan dette resultere i, at kunderne mister tillid til din virksomhed, eller værre, at der træffes beslutninger, der har alvorlige konsekvenser for både kunder og virksomhed. Hvordan sikrer du, at der er ‘human oversight’ i henhold til artikel 14 i EU’s AI Act?
Organisatoriske tiltag
Her er tre konkrete organisatoriske og tekniske tiltag, som kan hjælpe med at dokumentere og implementere overvågning af AI-systemer:
1. Etablering af en AI-komité
Opret en tværfaglig komité bestående af jurister, IT-specialister og repræsentanter fra ledelsen. Komitéen skal overvåge AI-systemets funktionalitet og sikre, at der altid er en menneskelig beslutningstager ved kritiske beslutninger. Dette skaber ansvarlighed og fremmer en kultur for etisk AI-brug. Jurister kan bidrage til at formulere etiske retningslinjer og sikre, at komitéens arbejde overholder gældende lovgivning.
2. Implementering af overvågningsværktøjer
Brug teknologiske løsninger, der kan spore og registrere beslutninger truffet af AI-systemet. Loggingssystemer kan dokumentere, hvornår og hvordan AI træffer beslutninger. Dette sikrer sporbarhed, der gør det lettere at evaluere beslutningerne og gribe ind, hvis der opstår problemer. En advokat kan bistå med at vælge de rigtige værktøjer, der opfylder både erhvervslivets og lovgivningens krav.
3. Uddannelse af medarbejdere
Giv medarbejderne træning i, hvordan AI-systemer fungerer, samt hvilke etiske overvejelser der skal tages i brugen af dem. Når medarbejdere forstår systemets begrænsninger og potentielle risici, kan de bedre reagere, hvis de bemærker uregelmæssigheder eller fejl. Juridisk indsigt kan supplere træningen ved at fokusere på de lovgivningsmæssige aspekter og konsekvenserne af en manglende menneskelig overvågning.
Afsluttende bemærkninger
Disse tiltag kan hjælpe med at sikre, at din virksomhed efterlever EU’s AI Act og beskytter både virksomheden og dens kunder. Det er vigtigt at handle nu for at forhindre potentielle skader, der kan følge af ineffektiv overvågning af AI-systemer.
Vil du vide mere?
Læs om AI-rådgivning til erhverv
Læs om selskaber og ejeraftaler
Tag kontakt til advokat:
Kontakt Lotte Bliddal
Blikket mod fremtiden
Hos Advokathuset Bliddal er advokat Lotte Bliddal frontfigur i udviklingen af AI-rådgivning og strategisk jura. Med Mini-Kairos og digitale workflows viser vi, hvordan juridisk formidling kan være både empatisk, effektiv – og menneskelig. De faglige indlæg på denne blog er AI-assisterede: Teksterne er udarbejdet i samspil mellem vores AI-værktøjer og en advokat, som altid tilpasser, godkender og offentliggør indholdet.
Lotte rådgiver virksomheder om AI i erhverv, bestyrelsesarbejde og generationsskifte. Har du brug for strategisk sparring, er du landet det rigtige sted.
Juraens virkning på virkelige mennesker og samfundet
Du kan læse meget mere om juridiske emner, dilemmaer og debatter på advokat Lotte Bliddals blog.
Hvis du kun er interesseret i juridiske problemstillinger, finder du de specifikke links her på siden.
