AI-systemer får aldrig en ny, god idé i frokostpausen
Hver gang jer ser et industri-oplæg om AI eller Machine Learning (ML), er det ret sandsynligt, at taleren på et tidspunkt vil sige et eller andet om, hvordan den omtalte teknologi er en innovation for den pågældende virksomhed eller industri.
Det er dog meget sjældent, at der bliver sagt noget om, hvordan AI- og ML-implementeringer kan påvirke virksomhedernes innovationsevner over tid. Men hvorfor skulle noget, der helt sikkert er en innovation i sig selv, ikke automatisk føre til mere innovation?
Som projektleder for AI Denmark for Aalborg Universitet ser jeg et enormt potentiale for vækst i danske virksomheder gennem AI- og ML-teknologier. Men tager jeg min innovationsforsker-kasket på, så synes jeg, det er ekstremt vigtigt at overveje, hvad det betyder at bygge systemer, som automatiserer kognitive processer, der indtil videre er blevet håndteret af medarbejdere.
Det handler om at tage udgangspunkt i en central opdeling fra innovationsforskningen, som inddeler innovationer i nogle, der bidrager til kompetenceudvikling i virksomheder, og andre, der faktisk ødelægger kompetencer. Og selvom sidstnævnte ikke nødvendigvis er dårligt – nogle gange skal man bare sige farvel til viden og færdigheder, der ikke kan bruges til noget længere – så er det måske ikke så nemt med AI. Lad os for nu definere innovation som det at finde smarte nye løsninger til udfordringer. Samtidigt forstås her AI-implementeringer som løsninger, der erstatter mennesker i at udføre størstedelen af bestemte kognitive opgaver.
Innovation skabes af mennesker, der interagerer, lærer af hinanden og finder smarte nye løsninger
Der er helt klart eksempler, hvor innovation skabes ved at købe og installere ny ekstern teknologi. Men når vi taler om innovative organisationer, så menes der virksomheder, hvor medarbejdere på forskellige niveauer finder smarte nye løsninger. Interaktion og kommunikation omkring processer og produkter samt drøftelse af forskellige synspunkter er nøglen til at skabe innovation, og her viser forskning, at mangfoldighed i teams kan bidrage positivt. Det at have kompetencer og praktisk erfaring med de teknologier, der anvendes i virksomheden, men også at have indsigt i nye udviklinger via netværk og samarbejde med universiteter, leverandører og andre partner, er ligeledes afgørende for at skabe en innovativ organisation.
Danske virksomheder har historisk været fremragende til lige netop det. Flade hierarkier og en kultur, hvor alle får lov til at bidrage – også hvis det er noget, der ikke eksplicit fremgår af ens jobbeskrivelse – har år for år gjort det muligt at være blandt de mest innovative lande i verden.
Hvad kan AI-systemer i dag?
Det, som vi kalder AI i dag, er i de fleste tilfælde supervised machine learning – en kategori af statistiske modeller, der tager nogle data som input og returnerer en forudsigelse, som vi er interesseret i. For eksempel kan input være teksten i en e-mail og outputkategoriseringen, om mailen er spam eller ej. Det fungerer ganske godt i dag – og alligevel finder vi fra tid til anden en mail fra en kollega med et usædvanligt navn fejlklassificeret.
Deep Learning (kunstige neurale netværk), big data og bedre computerinfrastruktur i de senere år har skabt muligheden for at udvide anvendelsen af ML til større datasæt og flere use cases, mens præstationen er blevet bedre.
I mange tilfælde er disse systemer lige så gode eller endnu bedre end mennesker til at se sammenhæng mellem input og output for klart definerede opgaver. Det gælder for spamklassificering, men også for diagnostik af kræft – et job, der kræver meget mere ekspertise fra den person, der ser på en scanning og stiller diagnosen.
Implementering af AI-løsninger er ikke det samme som it-indkøb – og medarbejderinddragelse er altafgørende
For at bygge disse modeller skal der besluttes, hvilke data (viden) der er relevant, og hvilke der ikke er, samt hvad der er de interessante output. Der skal ligeledes overvejes, hvordan præstationen skal måles, og om det kan være, at den kommer til at skifte med tiden, hvis der er forandringer i datagrundlaget. Er det vigtigt at kunne opnå model explainability – altså at kunne få forklaringer for enkelte forudsigelser og måske indsigt i grundlæggende mønstre mellem input og forudsigelser?
Hvis disse beslutninger træffes top-down eller håndteres som et rent teknisk problem, kan det resultere i systemer, der enten slet ikke leverer eller bare fungerer på en primitiv måde, der ikke kan skabe værdi. Det kan eksempelvis ske, hvis AI-implementering anses for it-indkøb, og rammerne for et AI-system defineres af ledelsen uden intensiv inddragelse af dem, der sidder med fagligheden og procesforståelsen.
På den måde er der i de seneste år brugt rigtigt mange penge på AI-projekter i verden, uden at der blev skabt værdi. I det værste tilfælde skaber den slags projekter frustration blandt medarbejdere, der kan opleve, at ledelsen ikke har indsigt i kompleksiteten af deres arbejde eller interesse i at inddrage deres ekspertise. Samtidigt kunne man lige så godt spørge: Hvorfor og hvordan skal for eksempel en HR-medarbejder være med til at udvikle en teknisk AI-løsning? Men det er lige her, hvor vi ser udviklingen af de bedste AI-løsninger og innovationer: i projekter, hvor man investerer i at gøre det muligt, at dem, der forstår kompleksiteten af udfordringer i virksomheden, også får indblik i mekanikken af AI-systemer og aktivt bidrager til udvikling af disse systemer.
Problemløsning eller nytænkning er ikke noget, som AI-systemer kan levere
Det kan være, at AI-systemer og ML-modeller er blevet formidable til at løse mange opgaver. Dog er det ret usandsynlig, at de kommer til at interagere med andre medarbejdere eller modeller, og finde innovative løsninger, som mennesker kan gøre.
Det betyder også, at hvis der nu er en ny lidt afvigende observation (fra hvad modellen ellers er vant til), så vil modellen ikke tage en hurtig snak med en kollega og forsøge at finde ud af, hvordan man kan reagere på denne ændring. Det vil simpelthen fejlklassificere eller – hvis det er del af implementeringen – logge en anomali. Modellen vil heller aldrig observere nogle nye interessante mønstre i data og tænke på en ny forretningsmulighed for organisationen.
Der vil næppe være en, der i dag vil anbefale at erstatte alle læger, der sidder med diagnostisering af scanninger, med AI-systemer – lige meget hvordan disse præsterer. Men det kan sagtens ske, at man får samme idé i kvalitetssikringen af produktionen. Og det kan være, at man bliver mere effektiv på kort sigt, men man mister medarbejdere, der vil kunne spotte nye typer af produktionsfejl med det samme og måske endda vide, hvorfor den opstår.
Afklar den konkrete case med nøglemedarbejdere, skab forståelse for mekanikker af AI og overvej den tekniske løsning
I praksis, når vi arbejder med virksomheder om AI-implementeringer, betyder det, at vi er nødt til at starte med business casen og en detaljeret udforskning af den specifikke use case samt grundig diskussion af alle kontaktflader mellem det potentielle AI-system og eksisterende processer i organisationen. Nøglen er at tænke på, hvordan AI-løsninger kan støtte medarbejdere i organisationen og give dem mulighed for at være mere kreative og innovative i stedet for at tænke på disse systemer som en måde at reducere omkostningerne på.
Så snart det er afklaret, går vi videre og skaber en teknisk forståelse for grundlæggende elementer i maskinlæring. Det kan være det virker meget skoleagtigt – men både ledelsen og involverede medarbejdere i afdelinger, hvor AI-systemer skal anvendes, skal forstå begreber som training- og testset, prediction, accuracy og andre centrale elementer af AI-systemer. Så snart denne forståelse etableres, er der pludselig mange ideer og forslag til datakilder, præstationsmål, potentielle udfordringer og meget mere. Diskussionen skifter med det samme fra forretningssnak med tech-buzzwords til konstruktive overvejelser om, hvordan en AI-løsning kunne se ud, og hvad den kan bidrage med.
Først når alt det er afklaret, bør man gå videre til at overveje specifikke teknologiske løsninger.
Vil du bidrage til debatten med et synspunkt? Så skriv til vores debatredaktion på debat@ing.dk
