Er algoritmisk innovation altid god eller ond?

Forestillingen om, at innovation er en uendelig ressource, der kan løse ethvert problem og forbedre enhver situation, er blevet så indgroet, at vi kan tale om innovationisme, en ideologisk tro på (teknologisk drevet) fremskridt. Derfor bør det ikke komme som en overraskelse, at tidens teknologiske udviklinger inden for maskinlæring og kunstig intelligens ikke bare ses som resultatet af innovation, men er blevet udgangspunkt for yderligere innovative tiltag. Algoritmer og data, siges det, kan ikke bare skabe mere innovation, men revolutionere (eller 'disrupte', som man sagde i slut-10’erne) vores forståelse af, hvad innovation er. På den baggrund har nogle innovationsguruer udtalt sig i nærmest poetiske vendinger om, hvad det kan få af vidunderlige konsekvenser, hvis vi lader algoritmiske logikker tage over, hvor den menneskelige tanke ikke selv slår til. Her udbredes romantiske forestillinger om det kreative menneske, som får hjælp til at realisere (eller forkaste) selv den vildeste fantasi af en avanceret kunstig intelligens.

Når historien om menneskets kreative kraft flettes sammen med fortællingen om maskiners læringspotentiale, opstår et attraktiv ’metanarrativ’ – en nærmest uimodståelig beretning, der ubesværet tilsidesætter bekymringer om, at vi mennesker er ude af stand til at løse vores egne problemer samt frygten for, at teknologien kan være andet end en villig hjælper. I stedet får vi forestillingen om den menneskelige Sherlock og den teknologiske Holmes, der arbejder gnidningsfrit sammen og forsyner hinanden med henholdsvis bløde kanter og knivskarp logik.  

Mørke data i sorte kasser

Optimistiske fortællinger af denne art er typiske for nye teknologiske udviklinger. Med ethvert teknologisk fremskridt følger en myte, en forsimplet historie, der gør os modtagelige overfor de ukendte muligheder, vi står overfor. Men som skeptikere lige så typisk påpeger: disse fortællinger gør os blinde for innovationens slagsider. I den øjeblikkelige situation er det største problem, at vi ikke er tilstrækkeligt bevidste om, hvordan algoritmiske logikker former sociale systemer. Når beslutningsprocesser pakkes ind i algoritmernes sorte kasser og baseres på store mængder af svært gennemskuelige data, bliver det stadigt sværere at vurdere beslutningernes beskaffenhed: er datagrundlaget korrekt og er det indhentet forsvarligt? Altså, hvem ejer data, og hvad bruges den til? Og hvordan er det præcis, at algoritmerne behandler data? Hvilke løsninger prioriteres, og hvilke overses, når innovationen selv i stadigt stigende grad følger algoritmiske logikker?

Her er det nok på sin plads at påpege, at vi hverken ser os selv som skeptikere eller jubeloptimister, men derimod forsøger at forholde os konstruktivt kritisk til teknologiske udviklinger. Nogle vil måske mene, at det er ligegyldigt, hvordan innovationer opstår, hvis bare de er brugbare. I vores optik er det imidlertid lige præcis den holdning (og ikke det bredere spørgsmål om at være for eller imod teknologi), der er problematisk. Vi skal fortsætte med at udvikle ny teknologi, men vi skal gøre det godt – i både effektiv og etisk forstand. Vi skal spørge os selv, hvad det er for en udvikling, vi ønsker os, og om teknologisk innovation – og innovation, der er er teknologisk drevet – altid er vejen frem. Er det den slags innovation, der bedst understøtter den fortsatte positive udvikling af vores samfund? Efterhånden som fordelingen og udnyttelsen af samfundets innovationspotentiale bliver et mere og mere centralt spørgsmål for den enkelte borger såvel som for private organisationer og offentlige institutioner, hvem skal så bestemme over de altid begrænsede ressourcer? Tør vi overlade det til algoritmer at styre innovationen?

Algoritmer, data og demokrati

Støttet af Villum og Velux Fondene er vi og en række samarbejdspartnere på andre danske universiteter netop gået i gang med et stort forskningsprojekt, hvor vi blandt andet skal undersøge disse spørgsmål. Som situationen er i øjeblikket, er folk godt klar over de begrænsninger, vi underlægger os, når vi for eksempler lader sociale medier vælge, hvilke nyheder og personlige opdateringer vi skal se. Vi forstår også den bløde magt, som Amazon, Spotify og Netflix udøver – ja, måske nyder vi ligefrem de valg, der træffes for os. Men hvad sker der, når de samme logikker overtager beslutninger, som er meget vigtigere end næste uges fredagsfilm? Hvad sker der, når der ikke bare er medieanbefalinger på spil, men vi i stedet har at gøre med den grundlæggende retning for teknologisk og social udvikling?

Igen, vores ærinde er ikke alarmistisk, men realistisk. Der er en reel risiko for, at hvis vi ikke løfter blikket fra konkrete innovationer til bredere forandringer af selve innovationslogikken, så når vi ikke at forholde os til forandringen, før den er sket. Det er i løbet af de senere år blevet stadigt mere tydeligt, at alle fremskridt ikke er lige gode for alle. Tværtimod. Teknologiske og sociale udviklinger fordeler sig i forhold til velkendte og sørgeligt forudsigelige skillelinjer. For tænk bare på pandemien: nok kom den bag på alle, og sandsynligvis kunne ingen grad af innovation have forberedt os på den. Men eksisterende teknologier og nyudviklede løsninger har gjort livet under nedlukningen lettere for den urbane elite (vi kigger på os selv her) uden at tilbyde megen lindring til mere marginaliserede grupper som lavindkomstfamilier, enlige forsørgere, udsatte unge og ældre.

Dermed udstiller pandemien en gammel sandhed: innovation kommer først og fremmest de rige til gode, så servicerer den middelklassen og henad vejen bliver den (måske) til gavn for samfundet som helhed. Dette drypvise fremskridt var måske acceptabelt i en tid, hvor problemerne nok var store, men hvor man stadig kunne håbe på en bedre fremtid. I dag har vi brug for løsninger, der virker for alle og virker nu, men hvis vi ikke gentænker, hvad innovation er og bør være, risikerer vi at ende med en endnu mere skævvreden logik.

Algoritmer er aldrig bedre, end den logik, de er kodet efter, og den data, de er trænet på. Og vi har allerede set, hvordan algoritmer kan understøtte alternative fakta og konspirationsteorier. Hvad sker der, hvis de samme tendenser gør sig gældende for ikke bare den enkelte borgers meningsdannelse, men også organisatoriske beslutninger, som for eksempel hvilke udviklingsprojekter, der skal støttes, eller hvilke strategiske muligheder, der skal udforskes? Hvordan fremmer vi forskning og udvikling, der er til gavn for hele samfundet, og ikke kun tjener visse særinteresser?

Det er store spørgsmål, men det er spørgsmål, som vi er nødt til at stille – nu, mere end nogensinde. Teknologihistorikeren Melvin Krantzberg er med rette berømt for sin udtalelse om, at teknologi hverken er god eller ond, men heller aldrig neutral. I dag kan vi sige det samme om både algoritmer og innovation og ikke mindst algoritmisk innovation. Spørgsmålet er ikke, om vi skal anvende de nye teknologier eller ej, men hvordan vi gør det – og hvad vi gør dem til.