[Dette indlæg er en kort version af en forskningsartikel jeg har skrevet om det samme emne. Forskningsartiklen er endnu ikke udgivet, men der vil blive lagt et link her, når den er]

Med fremkomsten af effektive generative AI-teknologier har medier fået et redskab til rådighed, som kan effektivisere, forandre og udvide porteføljen for publicistiske medier. Spørgsmålet er imidlertid, hvad man stiller op med, at teknologierne grundlæggende producerer indhold på baggrund af historisk tilgængeligt materiale. Hvis teknologiernes produktion foregår på baggrund af statistiske beregninger af, hvordan mennesker tidligere har sammensat tekst (i bred forstand), er der en fare for, at teknologierne vil være konservative i forhold til diskursive strukturer. Det bliver derfor en vigtig opgave for offentlighedsprofessionelle, der har hensynet til en demokratisk offentlig samtale som et vigtigt hensyn, at gøre dette til en særskilt professionel opgave.

Generativ AI som et teknologisk nybrud for offentlighedsprofessionelle

Da ChatGPT blev lanceret i november 2022 (baseret på OpenAI’s GPT3.5 model) gav det på mange måder rystelser indenfor professioner der lever af at skabe indhold til den offentlige samtale. Arbejdet med kunstig intelligens er på ingen måder nyt (selv i en forholdsvis snæver definition af kunstig intelligens kan man sige, at arbejdets rødder rækker ca. 100 tilbage i tiden), men med ChatGPT blev det klart for offentligheden, at modellerne har nået en stor modenhed. Allerede den første udgave kunne producere tekst, der lignede tekst produceret af mennesker, og det foregik på baggrund af store mængder af information.

Siden da er ChatGPT blevet opdateret flere gange, ligesom andre aktører også er kommet på banen. Kvaliteten af teknologiernes produkter og datagrundlaget er blevet kraftig forbedret, ligesom det nu også er muligt at producere realistisk indhold i form af lyd, billede og video.

Hvilken betydning dette får for fremtidens offentlige samtale er umuligt at spå om, men medier er begyndt at inddrage teknologierne i deres arbejdsflow, og det er nok rimeligt at forvente, at i takt med at teknologierne bliver bedre, vil denne inddragelse vokse. Derfor er det en god ide at reflektere over, hvilken betydning det kan få for mediernes evne til at facilitere en demokratisk samtale.

Det er vigtigt at understrege, at det jo altid er op til os mennesker, hvordan vi vælger at bruge teknologier. Man kan godt reflektere over, at teknologier kan have nogle “affordances”, hvor bestemte handlemåder er mere oplagte end andre, men man kan ikke slutte direkte fra en bestemt teknologi til en bestemt fremtid (i litteraturen omtalt som “teknologisk determinisme”). Jeg vil i det følgende reflektere over en bestemt strukturel egenskab ved de nuværende generative AI-teknologier, og overveje hvilke udfordringer denne egenskab kan give for fremtidens demokratiske offentligheder, hvis AI-teknologierne bliver dominerende i produktionen af offentligt indhold. Men for det første kan det jo være, at vi finder ud af, at teknologierne ikke er gode nok til at de får lov at blive dominerende. For det andet kan det være, vi begynder at bruge dem på måder, der kan være svære at forudse på forhånd. For det tredje kan det være, at teknologierne overkommer den struktur, som jeg fremhæver.

Analyse af teknologierne

De generative AI-teknologier er trænet på allerede eksisterende tekster, som er blevet trawlet igennem og analyseret, og så genereres nyt indhold ud fra statistisk analyse af det gamle indhold. Teknologierne sammensætter nye produkter ved at beregne, hvad der er den mest sandsynlige respons på de stillede spørgsmål.

Derudover har en del af dem også indbygget en fortløbende tilpasning baseret på baggrund af den feedback man modtager i den faktiske brug. Derudover arbejder de fleste udviklere også med en aktiv farvning af teknologiernes output, bl.a. for at modvirke uhensigtsmæssige former for bias (fx i form af nedarvet bias, der ligger i træningsmaterialet).

Teknologierne er endnu ikke uden problemer. I forhold til en offentlighedsprofessionel sammenhæng er det største problem nok, at teknologierne til tider “hallucinerer” — fremsætter påstande, som helt åbenlyst ikke er i overensstemmelse med virkeligheden. Dette gør, at der nok ikke i øjeblikket er seriøse publicistiske medier, der overvejer at lade teknologierne erstatte journalister. Risikoen for at komme til at formidle falsk information er for stor, og det kan mediernes troværdighed ikke holde til.

Samtidig er det dog også lige så indlysende, at journalister på medierne bruger nogle af redskaberne, både i forhold til indledende research, analysearbejde, udkast til færdige produkter, osv. Og hvis teknologierne bliver bedre, vil der også blive mere af dette.

Teknologiernes indmarch på redaktionerne er der naturligvis både fordele og ulemper ved. Af fordele er det oplagt at nævne, at journalister kan frisættes fra nogle af de mere trivielle opgaver, hvorved man kan fokusere på mere dybdeborende research og analyse. Af åbenlyse udfordringer ligger der en fare for, at økonomisk pressede medier kan blive fristet til at skære ned på antallet af uddannede journalister, hvorved mediets generelle produkt risikere at tabe i kvalitet.

Den demokratiske opgave

Det er for tidligt at have en stærk holdning til om fordelene eller ulemperne kommer til at veje tungest i den måde som AI-teknologierne kommer til at påvirke den demokratiske offentlighed. Som analytiker af den demokratiske offentlighed er det først og fremmest min opgave at hjælpe med at bringe forhold frem i lyset, som vi skal huske at overveje, hvis vi går ned ad den vej (et andet indlæg om denne problematik kan findes her: link).

I forlængelse af mit arbejde med tavshedens produktive betydning for den demokratiske offentlighed (link til mine andre indlæg om dette her på bloggen), er det en oplagt bekymring at reflektere over, hvad det betyder, at AI-teknologierne producerer nyt indhold, der skabes ud fra en statistisk analyse af, hvordan vi normalt kommunikerer med hinanden.

Jeg har tidligere (link, link, link, link) argumenteret for, at det er en påtrængende demokratisk opgave for journalister at arbejde bevidst med, hvordan man understøtter eller modvirker de strukturer for tavshed, som ligger i den diskursive italesættelse af emner i den offentlige samtale.

Med den pointe i baghånden vil jeg sige, at i takt med at AI-generet indhold kommer til at fylde mere i den offentlige samtale, bliver det en endnu mere påtrængende opgave at dygtiggøre journalister i at arbejde reflekteret med netop dette. For så vidt AI-teknologierne i udgangspunktet bruger fortidens tekster (i bred forstand) som grundlag for at generere nye tekster, vil AI-teknologierne også langt hen ad vejen reproducere de diskurser og tavshedsstrukturer som ligger i fortidens tekster. Man kan selvfølgelig godt (og gør det også) indføre en grad af tilfældighed, som giver teknologierne mulighed for at producere materiale, der ikke en-til-en reproducerer eksisterende diskurser, men fordi AI-teknologierne ikke har et semantisk link ud i den verden, som teksterne omtaler, kan denne løsrivelse ikke foregå som en reflekteret proces, på baggrund af, om der er noget, vi glemmer at få snakket om.

Derfor har vi (stadig) brug for rigtige journalister, der kan arbejde bevidst med at bryde diskurser. Ikke blot for at bryde dem, men fordi det giver journalister mulighed for at udfordre eksisterende magthavere ved at udfordre de diskurser og strukturer for tavshed, som magthavernes magt bygger på. I dette arbejde kan det meget vel være, at journalister kan have glæde af at bruge AI-baserede værktøjer. Men det er vigtigt, at man i dette arbejde er sig bevidst om, hvordan man køber ind på en måde at forstå verden på, som bestemte interessenter i samfundet har en særlig interesse i. Og som måske er til ulempe for svagere interessenter, der forbliver usynlige, fordi sproget ikke interesserer sig for dem.

Dette værk er licenseret under en Creative Commons Attribution-ShareAlike 4.0 International License.