EU's nye AI-plan er alt andet end teknologiforskrækket: »Imperativt at få udbredt AI«
Kommissionen vil have fart på implementering af AI. Der er dog også behov for ny regulering, fastslår ny plan.
Det er essentielt, at europæiske virksomheder og offentlige institutioner får adgang til mere data og tager AI i brug. Hellere i dag end i morgen.
Sådan lyder det fra EU-Kommissionen, der onsdag fremlagde planen for, hvordan AI skal reguleres og fremmes i unionen.
I samme ombæring præsenterede kommissærerne en datastrategi, der skal gøre Europa til en leder »in this new data economy«.
»We want to encourage our businesses, our researchers, our innovators, the entrepreneurs, to develop AI and we want to encourage our citizens to feel confident to use it,« lød beskeden fra EU-Kommissionens formand, Ursula von der Leyen, på et pressemøde.
Det nu offentliggjorte whitepaper, der blev varslet allerede inden, den nye kommission officielt trådte til, er ad flere omgange blevet lækket i de seneste måneder. Af samme grund er der formentlig ikke mange ubehagelige overraskelser – for eksempel for de interessegrupper, der har advaret mod, hvad de frygtede ville blive et regulativt kvælertag på AI-innovation.
Tværtimod er betydelige dele af planen dedikeret ikke til spørgsmålet om, hvordan AI inddæmmes, men hvordan AI kan fremmes.
»Vi vil have, at hver borger, hver ansat, og hver virksomhed har en fair chance for at høste fordelene ved digitalisering,« siger den danske kommissær, Margrethe Vestager, i en meddelelse og fortsætter:
»Hvad end det betyder at køre mere sikkert eller forurene mindre takket være forbundne biler; eller sågar at redde liv med AI-drevne kliniske billeder, der lader læger opdage sygdomme hurtigere end nogensinde.«
Et europæisk fyrtårn
Det er imperativt, skriver EU-Kommissionen, at få et europæisk fyrtårn inden for AI-forskning og ekspertise, der kan være en »world reference of excellence in AI and that can attract investments and the best talents in the field«.
Europa kan ganske enkelt ikke tåle at fortsætte med det nuværende »fragmented landscape of centres of competence with none reaching the scale necessary to compete with the leading institutes globally«.
Løsningen, som kommissionen foreslår, er at skabe nye kompetencecentre gennem Europa, som fokuserer på de områder, hvor EU har potentiale til at lede feltet, blandt andet inden for sundhed, transport, energi og rumforskning.
Foruden kompetencecentrene vil kommissionen opdatere forskellige uddannelsesplaner for at sætte mere fokus på at udvikle de sparsomme AI-talenter og øge andelen af kvinder, der tager en uddannelse inden for feltet.
Kom i gang med AI
Under overskriften 'An Ecosystem of Excellence' sætter kommissionen også fokus på små og mellemstore virksomheder, der skal have adgang til AI-teknologi. Såkaldte Innovation Hubs, der har specialiseret sig i AI, skal etableres i hvert medlemsland, hvis de ikke allerede er der. Og den europæiske AI-platform AI4EU skal styrkes og videreudvikles.
At tage AI i brug kræver penge, erkender kommissionen, der vil afsætte 100 millioner euro til en pilot-investeringsfond til formålet. Investeringen forventes at blive øget betydeligt fra næste år.
Dertil kommer, at virksomheder i højere grad skal være med til at sætte agendaen på forskningsområdet, skriver kommissionen, der vil have nye offentlig-private partnerskaber til formålet.
I den offentlige sektor vil kommissionen lave et 'Adopt AI'-program, som skal støtte køb af AI-systemer til det offentlige.
»It is essential that public administrations, hospitals, utility and transport services, financial supervisors, and other areas of public interest rapidly begin to deploy products and services that rely on AI in their activities,« står der i planen.
Prøv Tech Management GRATIS i en måned her
Kriterier for strammere regulering
Foruden et rygstød til udbredelsen af AI rummer whitepaperet også en plan for regulering af AI.
Der er brug for nye regler og strammere krav for AI-systemer i højrisiko-områder som sundhed og transport. Øvrige løsninger kan fortsætte som hidtil, så længe de overholder EU's eksisterende regler for GDPR og forbrugersikkerhed, fremgår det af teksten. Det er en linje, der følger indholdet i det tidligere lækkede udkast.
Til gengæld er kommissionen nu klar til at sætte detaljer på, hvornår et AI-system må betragtes som højrisiko, samt hvilke krav de mener, systemet i så fald skal leve op til.
»A risk-based approach is important to help ensure that the regulatory intervention is proportionate. However, it requires clear criteria to differentiate between the different AI applications, in particular in relation to the question whether or not they are ‘high-risk,« skriver kommissionen, der er kommet frem til to kriterier.
Et system kan kategoriseres som højrisiko, hvis det implementeres i et miljø, hvor »risks are deemed most likely to occur«, som f.eks. sundhed eller transport, og hvis det bruges på en måde, hvor risici kan opstå.
Man kan altså skelne mellem en AI-løsning, der skal optimere planlægning af aftaler på et hospital, og en, der skal understøtte diagnostik.
»The application of the two cumulative criteria would ensure that the scope of the regulatory framework is targeted and provides legal certainty,« står der i planen.
Dokumentér din træningsdata
Hvis kriterierne er opfyldt, skal AI-løsningen leve op til en række nye, konkrete krav, foreslår EU-Kommissionen.
Kravene skal blandt andet gå på træningsdata, der skal være tilstrækkeligt repræsentative »especially to ensure that all relevant dimensions of gender, ethnicity and other possible grounds of prohibited discrimination are appropriately reflected in those data sets«.
Loven bør også kræve, at udviklere holder styr på dokumentation af træningsmetoder og datasæt brugt til at træne og teste AI-systemet – inklusive en beskrivelse af datasættet, og hvordan data er udvalgt. I særlige tilfælde skal selve datasættet kunne fremvises, vurderer kommissionen.
EU-politikerne vil også have, at det skal være tydeligt for brugeren, der interagerer med systemet, at der er tale om et AI-system og ikke et menneske.
Robust og præcis
For at minimere risikoen for, at en AI-løsning gør skade, foreslår kommissionen, at der stilles krav til systemers præcision; eller som minimum krav til, at systemer er tydelige omkring den præcision, de har.
AI-systemers resultater skal desuden være reproducerbare, og systemerne skal være i stand til at modstå angreb som subtile forsøg på at manipulere data.
Et andet krav, som kommissionen vil stille til AI-systemer, er en form for menneskelig validering. Det kan betyde, at et output – som f.eks. et afslag på ansøgning om lån – skal forbi et menneske, inden det har nogen reel effekt.
Frivillig mærkningsordning
Selv hvis man bygger AI-systemer, der ikke falder inden for kommissionens definition på en højrisiko-løsning, er det værd at lægge mærke til kravene.
Kommissionen foreslår nemlig at etablere en frivillig mærkningsordning:
»Under the scheme, interested economic operators that are not covered by the mandatory requirements could decide to make themselves subject, on a voluntary basis, either to those requirements or to a specific set of similar requirements especially established for the purposes of the voluntary scheme.«
Et sådant system kunne give et incitament til at løfte standarden for AI-udvikling generelt og højne tilliden til systemerne.
Kommissionens whitepaper vil nu være i høring i tre måneder. Kommissionen håber at fremlægge et egentligt lovforslag inden årets udgang.
Prøv Tech Management GRATIS i en måned her
Som tak for din interesse Du kan gratis få: Tilmeld dig via dette link, og start din prøve i dag.
