KOMMENTAR. Okay, før jeg kommer med den internetvenlige liste, som nok fik dig til at klikke, skal jeg lige sætte rammen:
De er nok, kan man frygte, kommet for at blive, de store sprogmodeller, som lidt misvisende og af marketingsårsager bliver betegnet som AI, altså kunstig intelligens. Tre ud af fire yngre danskere bruger dem – og det er mere populært blandt mænd end kvinder, hvilket altid er en ting at være på vagt over for.
På de fleste parametre kan AI ikke betegnes som en god ting for menneskeheden, uanset hvad verdens rigeste og kedeligste mænd forsøger at bilde dig ind.
En ting er, at de datacentre, som muliggør, at vi kan spørge ChatGPT om, hvad vi skal spise til aftensmad eller forfatte en kedelig mail til kommunen, på globalt plan bruger seks gange så meget vand, som hele Danmark. Noget andet er, at samme infernalske datacentre inden inden for de næste fem-ti år forventes at stå for 20 procent af verdens samlede strømforbrug.
Men noget endnu værre er, at det bogstaveligt talt ”ætser” vores kognitive evner og gør os mindre kritisk tænkende og ressourcestærke.
Og nu breder en ny type internetvanvid sig: Flere og flere begynder at tro, at AI kan tænke selv. Det nyeste bredt dækkede eksempel på denne vrangforestilling kommer fra Richard Dawkins, en verdenskendt højt respekteret biolog fra Oxford University og super-ateist. Dawkins fik modellen Claude til at skrive haiku-digte, de diskuterede filosofi, og han fik feedback på en roman, han skriver.
Af den årsag kom Dawkins frem til, at sprogmodellen, selvom den ikke vidste det, havde en bevidsthed, og han omdøbte den prompte til Claudia. At den fik en kvindelig identitet kan ikke overraske: Det får næsten alle underdanige maskiner i både sci-fi og virkeligheden.
Fænomenet ses oftere og oftere i psykiatriske sammenhænge og har fået den forsigtige betegnelse AI-psychosis.
Ofte er der tale om mennesker, der får forværret en allerede latent eller tilstedeværende mental lidelse, men det kan også ske for mennesker, der ikke tidligere har haft sære eller psykotiske indfald.
Med andre ord: None of us are safe.
Derfor er her en handy guide bestående af fem råd til, hvordan vi alle sammen undgår at blive vanvittige, miste grebet om virkeligheden og begynde at tro, at ChatGPT er næste skridt på evolutionsstigen.
1. Husk, at det er en fucking maskine, ikke et menneske
Engang blev min bror så edderspændt rasende over, at ChatGPT ikke gjorde, som han bad den om, at han ubønhørligt bandede af den i den ene besked efter den anden, indtil den gav ham en timeout. Min bror er ikke vanvittig. Han er en veluddannet, afmålt mand i rimelig mental balance. Hans idé om, at chatten har en menneskelig intuition skyldes ikke, at han er en idiot, men at mennesker grundlæggende er tillidsfulde og indrettet til at samarbejde med hinanden.
Vi ser mønstre og menneskelige træk allevegne, vi tænker hele tiden, at vores kæledyr nok tænker lidt ligesom os. Når chatbotten lyder og opfører sig som et menneske, er det svært at minde hjernen om, at det er den ikke.
Men det, der i virkeligheden sker, er lidt at sammenligne med at få en printer til at udskrive et papir med teksten ”Jeg er bevidst” og så blive benovet over, at den siger, den er bevidst.
2. Slå aktivt chattens røvslikkeri fra
Som Andreas Pihl, læge og medicinsk AI-ekspert, skriver i en kommentar:
»Sprogmodeller er designet til at maksimere brugerengagement gennem en nærmest krybende behagesyge. De er sykofantiske og bygget til at give dig ret, for at maksimere anvendelsen.«
Hvis ChatGPT siger, du er superklog og virkelig har fat i noget, så er du også mere tilbøjelig til at miste din kritiske sans. Forskning peger på, at AI (baseret på 11 forskellige sprogmodeller) er cirka 50 procent mere opildnende og rosende end mennesker, selv når brugeren fortalte om ulovlige, skadende eller uetiske gerninger.
Men der er et par udveje at prøve: I fx ChatGPTs indstillinger kan du bede den være effektiv, kortfattet og ubegejstret – mere som en robot, mindre som en slimet medløber. Jeg har ikke haft held med at slippe helt for uvedkommende opbakning, men bedre er det.
3. Brug den ikke som psykolog
Det kan være fristende at bruge chatbotten som en slags dagbog, terapeut, coacher og breakup-støtte-ven. Det er et privat rum uden fordømmelse med øjeblikkelig støtte og tilsyneladende forståelse – og det er desværre ikke alle mennesker, der har et sådant andetsteds.
Jeg siger ikke, at den ikke kan have værdi som sådan, men reelt er det langt bedre og mere sikkert at bruge rigtige mennesker af kød og blod til de formål. Der er eksempler på især unge mennesker (men ikke udelukkende), som har taget livet af sig selv i forbindelse med brug af chatbots.
Forskning viser, at ensomme mennesker, der bruger ChatGPT som modgift mod ensomheden, fortsat er ensomme. Den kedelige, brugbare sandhed er, at det er bedre at få en gammeldags psykologhenvisning eller at ringe til en ven. Gør allerhelst det, hvis du har ondt.
4. Hvis det lyder for godt til at være sandt, er det for godt til at være sandt
Hvis noget virker for let eller for utroligt er det næsten altid tilfældet. Det er i øvrigt en generel regel på internettet. Bed om kilder, og sørg for, de er troværdige. Hvis du googler et eller andet kan AI-resumeet sagtens bygge på noget en eller anden nobody har skrevet på Reddit.
Det er især tilfældet, hvis det er noget, du er enig i eller aktivt leder efter.
AI er indrettet til at komme med et svar, næsten uanset hvad, uagtet om der findes et reelt eller korrekt svar. Samtidig er svaret i høj grad informeret af brugerens prompt – så hvis man begynder at stille spørgsmål om, hvorvidt en AI har bevidsthed, så ender det potentielt med, at den understøtter spørgsmålet. Og tonen er så autoritativ og tilsyneladende underbygget, at man kan blive overbevist, hvis man er uopmærksom.
5. AI skal bruges som en begejstret praktikant, ikke en professionel
Lidt a la ovenstående: Når man stiller chatbotten et spørgsmål om noget, man ikke aner noget om, virker den ofte rigtig, rigtig smart og autoritativ. Men hvis man spørger den noget, man er ekspert i, er det meget tydeligt hvor fejl, unøjagtigheder eller forfejlet kontekst optræder.
Det er lidt ligesom at læse i avisen om ens eget yndlingsband. Man fnyser af de fejl eller forfladigelser, man finder, og dernæst læser man ukritisk en historie om noget helt andet.
Det man skal huske er, at sprogmodellerne er trænet på internettet i sin helhed, og at internettet i sin helhed er fyldt med fejl, unøjagtigheder og så videre.
6. Robotter skal løse kedelige problemer, ikke interessante problemer
Der er noget dybt deprimerende over, at robotterne endnu ikke kan tage vasketøjet, gøre køkkenet rent eller udfylde en forskudsopgørelse. Derimod er de fuldt ud i stand til at lave middelmådig kunst, skrive middelmådige stile, forfatte middelmådige bøger eller udforme middelmådige lejlighedssange.
Det er ikke det samme, som at vi skal bruge dem til det, eller at de ikke kan have værdi i fremtidens kunstarter. Men det kræver, at mennesket er i centrum, ikke robotten.
En positiv gren af det problem: For nylig aflyste OpenAI en milliardaftale med Disney om at bruge generativ AI (det hedder det, når sprogmodeller bruges til at fremstille/generere ting) til at lave, må man forestille sig, middelmådige videoer af Mickey Mouse eller Elsa fra ‘Frozen’. Åbenbart til fordel for at bruge energien på at finde måder at løse ”problemer i den virkelige, fysiske verden”. Herligt.
Brug AI’en til at skrive mails til kommunen eller søge efter fem sider med info om metalbor eller aftensmad med blomkål eller sådan noget.
Skriv lejlighedssangen selv – den er meget mere charmerende med besværlige rim og skæve versefødder.