LEDER Amatørernes legeplads: Stop nu offentlige AI-eksperimenter

17. februar 2023 kl. 05:004
LEDER Amatørernes legeplads: Stop nu offentlige AI-eksperimenter
Illustration: Ingeniøren.
Artiklen er ældre end 30 dage

Amatørernes AI-legeplads

Leder

Kunstig intelligens kan hjælpe Danmark med at løse store samfundsudfordringer som at frigøre hænder til borgernær velfærd og hjælpe os til at bruge vores ressourcer bedre i den grønne omstillings navn. Sådan lød det fra en begejstret digitaliserings- og ligestillingsminister Marie Bjerre (V), da Digitaliseringsstyrelsen i sidste uge gjorde status over kommuner og regioners forsøg med AI-teknologi på tværs af alt fra beskæftigelse til sundhed og administration.

I en rapport samler styrelsen op på 28 såkaldte signaturprojekter, der er sat i søen i 2020 og 2021 med det formål at identificere konkrete eksempler på, at den kunstige intelligens kan gøre nytte i den offentlige sektor.

Artiklen fortsætter efter annoncen

Når man nærlæser resultaterne, er det dog svært at mønstre den samme begejstring og optimisme som den nyslåede digitaliseringsminister. Digitaliseringsstyrelsen zoomer ind på syv projekter, der blev afsluttet frem mod april 2022, og i en pressemeddelelse fremhæver styrelsen to projekter med særlig lovende resultater.

Det ene handler om, at Norddjurs har fået en algoritme til at sortere de e-mails, der kommer til kommunens hovedpostkasse. Det gør sorteringen 66 procent hurtigere, end før man havde algoritmen – ganske glimrende, men automatisk mailsortering er langt fra at være en teknologisk landvinding, og eksempelvis begyndte Københavns Kommune at kigge på det for flere år siden. Så selvom det er fint, at den elektroniske post på Djursland nu bliver sorteret mere effektivt, har kommunen reelt set bare fået to millioner kroner i statsstøtte for at hyre en privat it-leverandør til at udvikle et produkt, der allerede fandtes derude.

Det andet fremhævede projekt ligger i Aalborg, hvor man har brugt to år og fire millioner kroner på at udvikle en prototype på et AI-system, der kan hjælpe kommunen med at prioritere, hvilke ældre borgere der skal have tilbudt et hjælpemiddel til fysisk træning. Igen et ganske glimrende formål. Men graver man et spadestik dybere, står det klart, at man stadig er langt fra at kunne sætte strøm til systemet. Modellen skal videreudvikles, den tekniske infrastruktur skal på plads, og der skal laves aftaler med private leverandører, der kan stå for driften, kan man læse, hvis man kommer langt nok ned i rapporten.

Når man bruger en automatisk sortering af e-mails og et projekt, der end ikke er klar til at gå i drift, som de forbilledlige eksempler på gevinster ved AI i det offentlige, tyder alt på, at man reelt ikke har så meget at vise frem. Fiaskoer er der til gengæld masser af.

Artiklen fortsætter efter annoncen

Som Version2 i den seneste tid har afdækket, falder jobcentrenes machine learning-projekter på stribe, og otte års forsøg på at bruge AI-modeller til at få de ledige hurtigere i arbejde ser ud til at være slået endegyldigt fejl.

Over en bred kam har konklusionen i både stat og kommuner været, at de anbefalinger og forudsigelser, algoritmerne producerer, har så ringe en kvalitet, at man reelt ikke kan bruge dem til noget. Sagsbehandlernes arbejdsbyrde bliver ikke mindre, de ledige bliver ikke ansat mere, og som professor Thomas Hildebrandt har sagt til Version2, må man efterhånden konkludere, at det strider mod bedre vidende, når man forsøger at bruge AI til at sænke ledigheden.

Mindst lige så beskæmmende er det dog, at diverse forsøg med kunstig intelligens i jobcentrene går til grunde, allerede inden det bliver relevant at diskutere resultaterne. Kommunerne har nemlig slet ikke lovhjemmel til at profilere arbejdsløse danskere med algoritmer, og derfor har to ud af de tre resterende forsøg med AI-på beskæftigelsesområdet da også valgt at smide håndklædet i ringen i erkendelse af, at man simpelthen var i færd med at gøre noget ulovligt. I det sidste projekt – i Syddjurs Kommune – har man trykket hårdt på pauseknappen, mens man håber på alligevel at få Datatilsynets velsignelse til at fortsætte.

Det er slemt nok i sig selv, at borgere og sagsbehandlere i årevis har været prøveklude for jubeloptimistiske AI-projekter, der har vist sig i bund og grund at være milliondyrt, ulovligt tidsspilde på skatteydernes regning. Men de kuldsejlede beskæftigelsesprojekter illustrerer et større strukturelt problem i den måde, det offentlige jagter den hellige AI-gral på. I Digitaliseringsstyrelsens rapport står det klart, at jura og datakvalitet er blandt de største udfordringer på tværs af alle projekterne.

Det er åbenlyst uacceptabelt at igangsætte borgerrettede teknologiprojekter uden at have juraen på plads. Når man går i gang med at bygge et AI-system, inden man har styr på sine data, svarer det i bedste fald til at specialbygge tog til at køre på en specifik strækning, inden man har undersøgt, om der overhovedet er lagt skinner.

Kunstig intelligens rummer ganske givet et vist potentiale i den offentlige sektor, og på sundhedsområdet har vi allerede set glimrende resultater inden for eksempelvis screening for brystkræft. Men når så mange lokale projekter begår de samme basale fejl, er det på tide, at Digitaliseringsstyrelsen gør nåleøjet en smule mindre. Staten må som minimum kræve en seriøs business case og en juridisk og teknisk forundersøgelse, inden den giver kommuner og regioner skattekroner til at kaste sig over AI. Alt andet lugter af teknologibegejstret gummistempel.adf

4 kommentarer.  Hop til debatten

Tophistorier

Debatten
Vær med til at skabe en god debat ved at følge vores debatregler.

For at deltage i debatten skal du have en profil med adgang til at læse artiklen. eller opret en bruger.
settingsDebatvisning
4
20. februar 2023 kl. 02:09
En lille eftertanke:

En lille eftertanke:

Der er tale om innovationsprojekter: De må forventes at fejle. Formålet med projekterne er erfaringsindsamling og erfaringsdeling. På det punkt fejler hele setuppet eklatant:

  • Vi spurgte om gennemgående erfaringsdeling med andre signaturprojekter. Det var der i udgangspunktet ikke noget af.

  • Vi spurgte til erfaringsdeling på tværs af administrative/funktionalle grænser: Der er ingen erfaringsdeling mellem kommuner og regioner — til trods for, at flere at de interviewede projekter stod med nøjagtigt identiske udfordringer. Der er dog ERFA-grupper kommunerne og regionerne imellem - henholdsvist. Men grundlæggende mener kommunerne og regionerne ikke, at de kan lære noget af hinanden. Som i, overhovedet.

  • Digitaliseringsstyrelsen gør intet for at fremme udvekslingen af erfaringer mellem projekterne. Dette efterspurgte vi i vores konklusion; for det er ekstremt paradoksalt og selvmodarbejdende at have "erfaringsindsamling med AI-teknologi" som grundsætning for Signaturprojekterne, når man alligevel ikke gør det: Digitaliseringsstyrelsen gør egentlig ikke mere, end at skrive sin årlige rapport, som denne Leder her citerer. Det er slet ikke nok, selvsagt. Jeg vil i hvert fald kraftigt betvivle, at der produceres specielt brugbar viden med disse signaturprojekter; ja, som lederen selv er inde på: Der laves projekter med mailsortering i både København og Norddjurs — og de kender ikke noget til hinanden. Nogle af projektlederne vidste slet ikke, at der var andre, der lavede det samme som dem selv, bare i regional sammenhæng, og selv da vi fortalte dem om det, så mente de i grunden ikke, at de kunne dele nogle erfaringer, fordi regioner og kommuner er så utroligt forskellige. Åbenbart.

  • Én erfaring er i hvert fald, at man har opdaget, at lovgrundlaget skal være i orden. Det burde man vide som statsligt organ uden at bruge én eneste krone.

3
20. februar 2023 kl. 01:38
Jeg har skrevet speciale om

Jeg har skrevet speciale om udvalgte af Digitaliseringsstyrelsens Signaturprojekter. På den ene side ser jeg ikke nogen årsag til at skose det offentlige for at eksperimentere; for det er på sin plads, og 90% (eller mere!) af innovationer og IT-projekter fejler, statistisk set. Og det er, uanset om det er for offentlige eller private midler, i offentlige eller private virksomheder. Så egentlig mener jeg, at det er en noget ureflekteret og ukonstruktiv leder.

Når det så er sagt, så er der for især de medicinalt rettede signaturprojekter en tendens til, at man har set midlerne som en af mange puljer, som man har søgt penge gennem for at gøre lidt det, man har haft lyst til — fordi der er kamp om forskningsmidlerne, og så må fundraiserne være lidt kreative og få formuleret nogle projekter, som egentlig bare dækker over noget andet. De medicinale signaturprojekter ser jeg som allerhøjest anvendelige — men de kan ikke klare sig med signaturfondsmidlerne alene. Det gør de heller ikke, og det er forventeligt, at den type projekter tager årtier.

Denne runde af signaturfondsmidlerne har været præget af en lavfrekvent oversight fra Digitaliseringsstyrelsen, og det har været en mere eller mindre "først til mølle", "free for all" tilgang. Flere af de projekter, vi talte med, var præget af uerfaren styring og ledelse - nogle var efter flere år slet ikke kommet rigtigt i gang. Det har også været præget af en opportunistisk tilgang fra fondsmiddelaftagerne (og i og med, at Digitaliseringsstyrelsen reelt ikke har ønsket at følge projekterne, udover en årlig revision af, at pengene bliver brugt rigtigt), så er det også uundgåeligt.

Man kunne til konklusion kunnet ønske, at Digitaliseringsstyrelsen i udvælgelsen af projekter havde gjort sig en større indsats. Eksempelvis at afveje, om et signaturprojekt er lovligt, før man tildeler midler til udvikling.

Projektet i Odense var vi selv noget overrasket ved at finde ud af, at projektet faktisk hele tiden havde været ulovligt. Men her fandt man jo alligevel frem til, at det endelige system ikke kunne det, som man havde ønsket sig — og det er en meget valid konklusion at komme frem til efter et godt styret innovationsprojekt med en super dygtig projektleder.

Og så var der et signaturprojekt, som er kommet utroligt langt med at reducere de kommunale bygningers CO2-aftryk i Københavns Kommune. En succes, vil jeg mene. Det beretter Ingeniøren af gode grunde ikke om — for det virker, og det er forvaltet rimeligt og godt.

2
17. februar 2023 kl. 16:36
Problemet er ikke det offentlige...

... som sådan.... men det offentliges forbrug af private IT konsulenter og konsulent huse.

I privatiseringens hellige navn, er stort set alle det offentliges bedste IT ressourcer forlængst forsvundet fra det offentlige, for at blive "professionelle" ude i det private, fordi det var det man politisk ønskede.

Det offentlige skulle sætte gang i det private erhvervsliv, ved at indkøbe de ressourcer de behøvede.

Det lyder umiddelbart rigtig fornuftigt.

Men desværre har de to entiteter som oftest modsat rettede interesser.

Det offentlige ønsker økonomisk overkommelig/konkurrencedygtig funktionalitet, viden til at drive det og at det er færdig i går.

De private konsulent huse har kun eet ønske... at sælge konsulent timer, og min erfaring efter at have arbejdet flere sådanne steder, er at det er primær formålet.

Så kan man argumentere for at det offentlige ikke er gode nok til at definere hvad de vil have, og at det er derfor at projekterne løber løbsk eller ender op i katastrofer.

Men enhver kan da forstå, at når det offentlige ikke længere har reelle erfarne ressourcer til at stå for den del, så må de også lægge den del ud til konsulenthusene.

Så er der altså flere konsulenter der tjener godt på opgaven, men det offentlige får ikke større viden om det, og kan dermed heller ikke give ordentlig input til det.

Så det offentlige skal ikke lave færre sådanne projekter. Men de skal lave dem 100% inhouse, og bruge den forbrugte tid til at etablere reel viden inhouse, således man er kvalificeret til at lave gode kravspecs, vurdere evt. nødvendige konsulenthuses arbejde og følge kvalificeret op.

1
17. februar 2023 kl. 12:43
selv bedrag er en velkendt

selv bedrag er en velkendt politisk sygdom.
den Amerikanske fysiker Richard P.Feynman sagde. the first principal is that you must not fool yourself and you are the easist person to fool. jeg har desværre erfaring som værge for min handikappet søster med ansøgning af hjælpemidler, her går man ind på nettet om det er udbetaling danmark der har systemet,ved jeg ikke,men det sørger for ens ansøgning havne i den rigtige kommune og medarbejder. Derefter vender,de, på god burokratisk vis tilbage hvad hun skal med hjælpemidler,man skulle umidelbart tror at, disse måske kunne kontakt den institution styret af dem,selv hvor min søster blev indskrevet efter en blodprob i hjernen,
jeg tror AI kun vil øge sagsbehandlingen hos ankestyrelsen, hvor man til sidst havne efter turen i den kommunale mølle,hvor der er tydelig mangel på inteligens. Da min søster døde. fik jeg fra selv samme genier,et brev om at jeg venligst gerne må aflevere de modtagne hjælpemidler, her svare jeg dem,det kan jeg ikke da de måske er overtaget af andre,så ring til jeres kollegaer, hermed var sagen slut. når man kommer i kontakt med dette system forstår man hvorfor det går som det går.