Indhold

Dette netværk i kunstig intelligens og ansvarlig dataanvendelse er et sted, hvor man kan formidle praktiske erfaringer om, hvordan man driver et succesfuldt AI-projekt lovligt. I netværket er den til tider ”tørre” jura, flettet sammen med anvendelsen af kunstig intelligens. Vi taler om, hvordan man skaber succes med kunstig intelligens / AI og ansvarlig dataanvendelse.Løsninger baseret på kunstig intelligens anvendes allerede i dag i vidt omfang, i mange forskellige sammenhænge. Teknologien står over for et gennembrud og både danske virksomheder og offentlige myndigheder investerer massivt i AI til brug af alt fra f.eks. ansættelse af medarbejdere, kontrol og snydbekæmpelse, bedre kundevejledning samt forberedelse eller afgørelse af sager.Selvom teknologien har et enormt potentiale, møder udviklingen og brugen af AI-løsninger også retlige udfordringer og risici, samt tekniske problemer. Løsningerne kræver ofte et omfattende datagrundlag for at kunne fungere (big data), og vil typisk indebære behandling af personoplysninger omfattet af GDPR. Samtidig har EU-Kommissionen offentliggjort et forslag til en ny AI-forordning. Forordningen vil – når den vedtages – de facto fungere som en generel ”grundlov” for bl.a. udbydere og brugere af AI-systemer, herunder både offentlige myndigheder og private virksomheder, uanset hvilken sektor der er tale om. Den indeholder forbud mod visse anvendelser af kunstig intelligens, omfattende krav til højrisiko-AI-systemer og meget skrappe bøder for overtrædelse af reglerne.Succes med AI-løsninger kræver derfor, at bl.a. juridisk indsigt, forståelse for teknologien, ledelsesmæssige kompetencer og etisk dataanvendelse, går op i en højere enhed.Disse og mange andre relevante emner bearbejder vi i dette netværk, med et fokus på det praktiske, så du som medlem kommer hjem med værktøjer, løsninger og ideer, som giver værdi - både til dig selv og din arbejdsplads.Der afholdes fire netværksmøder per sæson á 4,5 times varighed. Gennemgående for alle møderne i dette netværk, er at mødet åbnes med et oplæg fra netværkslederne om, hvad der er nyt siden sidst både juridisk og teknisk. På den måde vil du altid være opdateret på den nyeste viden i feltet. Vi inddrager altid medlemmernes relevante problemstillinger og har fokus på, at lære af hinandens succeser og udfordringer. Samtidig inviterer vi spændende oplægsholdere ind i netværket og gennemgår relevante cases.

Agenda for 1. møde

På det første møde er fokus, at få opsat rammerne for netværket fra den juridiske og tekniske/praktiske vinkel. For at sætte det hele i perspektiv, vil der her arbejdes med en case fra en ekstern oplægsholder.  

Dine ønsker og forventninger til indholdet på netværket bliver taget med fra første møde, og du vil få solid sparring under møderne. Dine faglige kompetencer bliver højnet, imens du udvider dit netværk af professionelle relationer. Eksempler på emner som kan drøftes i netværket:
Gode råd til succes med AI-løsninger, der efterlever gældende og fremtidig lovgivning:
Vi ser på, hvordan vi får succes med brugen af AI-løsninger, under hensyn til eksisterende og fremtidig lovgivning samt etiske retningslinjer. Det gælder både i forhold til bl.a. databeskyttelsesreglerne (privacy by design og konsekvensanalyse), og hvordan man allerede nu kan forberede sig på de nye krav i den nye AI-forordning fra EU, og anden international lovgivning samt etiske retningslinjer.

Hvordan kan vi dokumentere overholdelsen på den mest hensigtsmæssige måde? Hvilke krav skal vi stille til AI-leverandører og internt i vores egen organisation? Hvordan laver vi en god screening af, om AI-løsningen overholder de retlige krav?Diskrimination og bias:
Brugen af AI-løsningen må ikke medføre, at der sker ulovlig forskelsbehandling af de registrerede (indbygget bias i beslutningsgrundlaget). Hvad er ulovlig direkte og indirekte forskelsbehandling, og hvad kan vi gøre ved det? Hvad sker der internationalt på dette område?Transparens: 
Brugen af kunstig intelligens medfører en masse udfordringer og dilemmaer, da der ofte mangler åbenhed og transparens om, hvordan AI-løsningen fungerer, f.eks. hvordan den kommer frem til en beslutning (det såkaldte ”black box”-problem).

Vi ser på, hvilke retlige krav der gælder for at oplyse om brugen af AI og til at forklare logikken i systemet (transparens og systemdokumentation), og giver forslag til, hvordan man kan opnå øget transparens ved brug af forskellige løsninger for Explainable AI.Sikkerhed og robusthed:
Brugen af AI-løsningen skal være robust og sikker. Integriteten af både input og output-data skal bevares, ligesom modellen ikke må kompromitteres. Vi ser på de typiske sikkerhedsmæssige risici forbundet med brugen af AI-løsninger og hvordan man kan håndtere dem i praksis.Ansvarlighed og menneskelig kontrol:
En bæredygtig AI-løsning kræver, at vi kan føre kontrol med, at løsningen fungerer som ønsket, så vi undgår fejl og brud (ansvarlighed). Vi ser på, hvordan man kan føre en hensigtsmæssig kontrol og tilsyn med algoritmerne, og sætter fokus på, hvordan man bygger en solid governancestruktur op omkring løsningen og internt i din organisationen.Øvrige relevante emner kan være:

• Hvordan sikrer man datakvaliteten i sit AI-projekt?
• Hvilke dataetiske forhold bør man særligt forholde sig til ved brug af AI-løsninger?
• Hvad skal man være særligt opmærksom på, når man anvender AI-løsninger til beslutningsstøtte, profilering eller fuldautomatiske afgørelser?

Indhold og tema bestemmes i samråd med medlemmerne fra møde til møde.

 

Målgruppe

Kunstig intelligens er en teknologi, der kan bruges i alle domæner og sektorer, og dette netværk favner derfor bredt i både den offentlige og private sektor, og i forskellige brancher. Ambitionen er, at en høj diversitet hos medlemmerne skaber en frugtbar diskussion og vidensdeling på et højt plan.

Netværket henvender sig til beslutningstagere i organisationen, som både skal favne og forstå det tekniske og juridiske aspekt ved brug af kunstig intelligens. Det omfatter compliancechefer, legal counsels, databeskyttelsesrådgivere (DPO’ere), dataansvarlige og data ethics officers og øvrige personer, der arbejder med AI.
 

Materiale

Du får adgang til relevant netværks materiale på JUC’s online portal.