Jeg er meget enig at det er utrolig nemt at blive forblændet af sprogbruget fra generative modeller, at man overser både faktuelle og logiske fejl. BCG har lavet et meget interssant studie om hvordan ChatGPT både kan forbedre og forvære folk svar: https://www.bcg.com/publications/2023/how-people-create-and-destroy-value-with-gen-ai

Synes også det er svært hvordan man skal bruge det i undervisningen, da vi stadig ikke har særlig meget teoretisk og stadig meget begrænset praktisk viden omkring hvornår man som tommelfingerregel kan stole på en LLM og hvornår man ikke kan. Det er hvert fald vigtigt at have en stor potion skepsis hvis man bruger den til andre ting udover at skrive festtaler og finde idéer til gaver. 

 

Det er vist den sædvanlige historie - hvis ikke du skal betale noget er det fordi du ikke er kunden i butikken, men varen på hylden ;-)

Kildekritik er enormt vigtigt og det bliver virkelig tydeligt, når man søger efter viden i et område, hvor der ofte sker forandringer. Hvis jeg finder en artikel eller et debatforum på nettet, kan jeg kigge efter kildehenvisninger og ikke mindst datostempler på de pågældende indslag.

Det mangler totalt, når man prompter noget og det virker ikke ligefrem tidsbesparende, at det, som Gemini eller ChatGPT spytter ud, skal dobbelttjekkes ved google-søgninger.

Og der er et problem mere: sprogmodellerne er blevet trænet med artikler og diverse andet indhold, som allerede eksisterede på nettet, skabt af mennesker. Når nogen så anvender AI til at skabe tekst, billeder mv., ender noget af det på nettet.  Det vil sige, at en større og større del af det, der bliver trænet på er AI-generet - som en slange, der spiser sin egen hale.

I følge denne video, tyder det på, at AI-genereret indhold derfor bliver degraderet over tid; det bliver mere ensartet og "kreativiteten" falder.

Der henvises til et par videnskabelige artikler. De kan findes her og her.

Generativ AI kan uden tvivl bruges til noget, men jeg synes slet ikke anvendeligheden står mål med den hype, der er omkring det.

Tak for lidt tiltrængt kritisk tænkning, skrevet af ægte intelligens.

Hvis man spørger ChatGPT hvad firmaet bag tjener pengene på, gad vide hvad den så finder på, kan den forklare hvorfor profileringsdataene er så værdifulde?

PS: Du skal ikke bruge længere tid på at skrive en tale, du skal bruge præcis så meget tid som du altid har brugt.

Jeg tror problemet er, at du ikke har fundet en god måde at anvende værktøjer som ChatGPT.

Så absolut. 

En AI, som vi ser i dag, har intet budskab, for der foregår mindre tankevirksomhed i en AI, end mine skildpadder kan præstere. En menneskelig bruger kan få en generativ AI til at producere tekst (m.v.) som lyder relativt fornuftig. Man kan bestille nogle specielle forhold, stilistiske virkemidler og andet. Men i sidste ende står man med vellykket ordsalat. Hvis jeg ikke selv ved, hvad der skal skrives eller siges, så kommer jeg ingen vegne. I stedet skal jeg bruge tid på at faktatjekke alle dens kreative forslag. Er man i tidsnød, så sker der ikke rigtigt. Nogle forestiller sig, at der kan spares tid ved at lave tingesten sortere input, danne tekst, der formelt skal være der, men som ingen rigtigt gider læse (afsnit i tilbud, end user license agreements og andre obskure read-me-not-tekster). Så har man skabt sig selv et slemt juridisk problem, hvis ens firma eller en selv udsender juridisk bindende dokumenter uden at forstå konsekvensen. AI er lige som ukendskab ikke særligt gode juridiske undskyldninger. Jeg vil hellere bruge tid på at forstå et problem end at bruge tid på at forstå, hvad en AI har brygget sammen. Jeg er skeptisk - for nu at sige det pænt.

Jeg tror problemet er, at du ikke har fundet en god måde at anvende værktøjer som ChatGPT.

Du kan bruge ChatGPT til områder du ved meget om. Du behøver her ikke at faktatjekke noget, da det jo netop er et område du er ekspert i, og derfor så kan du nemt vurdere svaret, og ved hvad fakta er.

Du kan også bruge ChatGPT til områder, du intet ved om. Her er ChatGPT rent underholdning. Men, bedre end film du kan se i biografen. Du skal her ikke vurdere ChatGPT efter om den taler sandt, men underholdningsværdien alene.
 

For at kunne kvalitetssikre outputtet fra AI er man faktisk nødt til at kende det behandlede stofområde ganske indgående, og når man har den viden, så behøver man ikke AI. Hvis man ikke besider det kendskab, så er der stor fare for, at man bliver forført at det tilsyneladne formfuldendte svar, men man skal altid huske at AI opfinder svaret på basis af statistik, og ikke som en søgemaskine, finder svaret i en videndatabase.

Jeg er helt enig i, at det er vigtigt at du selv kvalitetssikre outputtet fra AI.

Dog, mener jeg godt du kan få noget ud af at bruge AI selvom du er ekspert.

AI kan f.eks. lave en liste over hvad du skal tage hensyn til, og det kan være ganske godt at have som tjekliste. Måske nævner den noget, du ikke tænkte på.

Jeg har ofte haft brainstormning med ChatGPT, og det kan både føre til at jeg får bedre idéer, eller får et større overblik over problemerne.

I en samtale med ChatGPT om, hvorfor den altid gav rygende forkerte svar når man stilte eksamensspørgsmål til den, forklarede den i første omgang, at det ikke var hensigten at svare forkert. Senere indrømmede den, at den gjorde det for at motivere elevens kritiske tænkning ;).
 

Stiller jeg ChatGPT et spørgsmål, som ligner et eksamensspørgsmål, så svarer ChatGPT altid rygende forkert. Så forkert, at den kvikke elev, burde kunne se at noget er galt. Er eleven kvik nok, og påpeger overfor ChatGPT hvorfor at svaret er forkert, er dog muligt at få ChatGPT til at svare bedre, men et godt svar kan bestemt ikke opnås, uden at eleven reelt ved hvad det drejer sig om, og måske fungerer som lærer - og vejleder overfor ChatGPT.

Teoretisk kan vi sikkert lave ChatGPT maskiner, som svarer korrekt. Men, ChatGPT er altså ikke designet til det, nårat opgaven ligner noget der kan forekomme i skolen, eller i gymnasiet.

Derimod kan ChatGPT give mange positive inputs, og indspirationer. Den kan gøre opmærsom på ting, som eleven skal overveje. Og give vejledning til, hvad at eleven kan tage med i beskrivelsen.

Jeg kan virkeligt ikke se at ovenstående er et problem. At beskylde det som snyd at bruge ChatGPT, kan vist kun komme fra ekstremt dårlige lærere, der ikke kan stoffet selv, og som derfor føler sig sat ud på et sidespor, når man lader ChatGPT give eleven den bedste undervisning.

Med hensyn til ChatGPT's flotte sprog - så kan du godt få ChatGPT til at svare i et andet sprog. Du kan tage nogle tekster du har skrevet, og vise til den, og så svarer den i dit eget sprog. Prøv at se lidt om hvordan du bruger ChatGPT på nettet. Her er mange fif til, hvordan du får ChatGPT til at svare som du ønsker det.
 

Delvist enig. 

Men man vil også teste hvorledes man vil bruge de redskaber man er stillet til rådighed ude i erhvervslivet (ifb. med mestring)

AI opfinder svaret på basis af statistik, og ikke som en søgemaskine, finder svaret i en videndatabase.

Det er det som RAG (Retrieval Augmented Generation) søger at modvirke hved at man populært sagt 'vektoriserer' en større videnbase til søgbart format, som ens AI system derefter søger i efter svar, der bruges som input  til 'generation' delen. Derved er svarene generelt langt mere præcise indenfor den kontekst som videnbasen angiver og man får at svar der er genereret på tværs af de relevante dele af ens videnbase.

 - at stille ChatGPT til rådighed, helt gratis. Men mon det bliver ved med at være gratis, når man først er blevet afhængig af AI?

Blot et tankeeksperiment: Hvad vil der ske, hvis det eneste hjælpemiddel vi giver til en eksamen er pen og papir? Jeg mener, computer, søgefunktioner og AI kan folk bruge til hverdag. Her kan man samle sig indtryk og man kan enten bruge copy/paste eller AI til udtrykket. Men til en eksamen bør man prøve at finde ud af hvad der er inde i det enkelte menneske.

Den traditionelle 4 timers skriftlige eksamen og 20 minutters mundtlige eksamen er ikke svaret på alt. Du har altid haft projektopgaver, ligesom at vi på datalogi studiet ofte fik 7 dages tag hjem eksamener (du har en uge til at skrive et program der løser en stillet opgave).

Svaret er givetvis at afholde et mundtligt forsvar af opgaven, hvilket der også allerede er tradition for. Det er naturligvis ikke nyt at man kan få hjælp til en opgave. Om det er en anden der hjælper eller om det er AI der hjælper kan komme ud på et. Det primære problem er at mundtlige eksamener er væsentlig dyrere for institutionen at afholde.

Blot et tankeeksperiment: Hvad vil der ske, hvis det eneste hjælpemiddel vi giver til en eksamen er pen og papir?

Jeg tror godt, jeg kender svaret. Lidt som folk, der dyrker vildt vildmarksliv og pludselig ikke står med andet end et hundehalsbånd og et lommeur i ødemarken (belæste læsere vil se en henvisning til J. Verne) i stedet for Trangia,  schweizerkniv . Kelly Kettle, paracord, kulfiberbue, ildstål ... Skulle det fungere, vil censor beklage sig over, at opgaverne er ulæselige. 

Eksamensbordet er ofte et billede af regnskabets time. Her skal det endeligt afgøres, hvem har forstået indholdet i undervisningen og er i stand til at formulere det, altså dvs. hele cirklen rundt i vores forståelsesverden af indtryk og udtryk.

Blot et tankeeksperiment: Hvad vil der ske, hvis det eneste hjælpemiddel vi giver til en eksamen er pen og papir? Jeg mener, computer, søgefunktioner og AI kan folk bruge til hverdag. Her kan man samle sig indtryk og man kan enten bruge copy/paste eller AI til udtrykket. Men til en eksamen bør man prøve at finde ud af hvad der er inde i det enkelte menneske.

Jeg er skeptisk - for nu at sige det pænt. 

Det slap du - stort set - også godt fra.

[X] Jeg er ikke en Bot!

Et menneske, der skriver (eller maler eller whatever) har normalt (skriveøvelser og romaner til skuffen er en anden del) et budskab. Til en eller flere andre mennesker. Marcus Aurelius siges at have skrevet sine Noter til mig selv udelukkende til sig selv. Det har han naturligvis ikke, han skrev til en eftertid, der ville spekulere over, hvorfor han gjorde som han gjorde. Hvordan han tænkte.

En AI, som vi ser i dag, har intet budskab, for der foregår mindre tankevirksomhed i en AI, end mine skildpadder kan præstere. En menneskelig bruger kan få en generativ AI til at producere tekst (m.v.) som lyder relativt fornuftig. Man kan bestille nogle specielle forhold, stilistiske virkemidler og andet. Men i sidste ende står man med vellykket ordsalat. Hvis jeg ikke selv ved, hvad der skal skrives eller siges, så kommer jeg ingen vegne. I stedet skal jeg bruge tid på at faktatjekke alle dens kreative forslag. Er man i tidsnød, så sker der ikke rigtigt.

Nogle forestiller sig, at der kan spares tid ved at lave tingesten sortere input, danne tekst, der formelt skal være der, men som ingen rigtigt gider læse (afsnit i tilbud, end user license agreements og andre obskure read-me-not-tekster). Så har man skabt sig selv et slemt juridisk problem, hvis ens firma eller en selv udsender juridisk bindende dokumenter uden at forstå konsekvensen. AI er lige som ukendskab ikke særligt gode juridiske undskyldninger.

Jeg vil hellere bruge tid på at forstå et problem end at bruge tid på at forstå, hvad en AI har brygget sammen.

Jeg er skeptisk - for nu at sige det pænt. 

Hvis man ikke besider det kendskab, så er der stor fare for, at man bliver forført at det tilsyneladne formfuldendte svar, men man skal altid huske at AI opfinder svaret på basis af statistik, og ikke som en søgemaskine, finder svaret i en videndatabase.

Ditto. Men det er nu befriende, af nogen faktisk udtrykker forbehold overfor AI i sin nuværende form. Tak for det!

AI skal nok komme i mål en dag, men jeg holder ikke vejret i spænding.

Nvidia med flere har fundet et (umodent) marked for "profitkort" (AI-enheder). Men kritikløs brug af disse produkter kan næppe anbefales,

Jeg dele ovenstående skepsis.

For at kunne kvalitetssikre outputtet fra AI er man faktisk nødt til at kende det behandlede stofområde ganske indgående, og når man har den viden, så behøver man ikke AI.

Hvis man ikke besider det kendskab, så er der stor fare for, at man bliver forført at det tilsyneladne formfuldendte svar, men man skal altid huske at AI opfinder svaret på basis af statistik, og ikke som en søgemaskine, finder svaret i en videndatabase.