21:57 | 15.8.2023

De nye chatbotter med ChatGPT i spidsen rejser nye væsentlige spørgsmål om vores uddannelsessystem: Hvorfor skal vi tilegne os viden og færdigheder, hvis maskinerne kan give os svarene meget hurtigere?

Samme bekymring var fremme, da søgemaskiner og oversættelsesmaskiner blev allemandseje – men her vil de fleste efterhånden nok medgive, at disse teknologiske hjælperedskaber ikke har overflødiggjort uddannelse.

Chatbotterne skaber imidlertid udfordringer, som vi ikke har prøvet at håndtere før, hverken i uddannelsessystemet eller i samfundet generelt. Deres evne til at producere tekst af høj sproglig kvalitet i en rasende fart skaber indlysende den risiko, at nogle vælger at springe over, hvor gærdet er lavest og præsentere en maskingenereret tekst som deres eget arbejde.

Det er ganske vist svindel. Men det er ikke plagiat, for plagiat implicerer, at man har stjålet sin tekst fra en anden. Hvad maskinerne producerer, er ny tekst, ikke kopier. Maskinens tekst er originalen.

Problemet er naturligvis, at man springer læreprocessen over ved at lade maskinen gøre arbejdet, og at teksten ikke er udtryk for den intellektuelle indsats, som mennesket ved tasterne kan præstere.

Risikoen for manglende læring på grund af snyd er imidlertid ikke hele sagen, men symptomer på noget endnu værre: Maskinteksten har ingen menneskelig afsender, og derfor mister vi muligheden for at forholde os kritisk til den – for at øve kildekritik.

Uransagelig tilblivelse

Kildekritik er den grundlæggende metode i historieundervisningen fra folkeskole til universitet, som lærer os at forholde os til udviklingen i det menneskelige samfund. For at opnå vores egen kvalificerede forståelse af en given situation, stiller vi kritiske spørgsmål til kilderne – undersøger afsendernes baggrund og motiver og læser teksterne i dét lys. Et aktuelt eksempel kunne være situationen i Ukraine, som de officielle kilder fra henholdsvis Ukraine og Rusland fremstiller særdeles forskelligt. Her er kildekritikken et centralt redskab til at forstå, hvad der ligger bag.

Men den kildekritiske metode kan ikke bruges på ChatGPT. Den er ikke en søgemaskine, der fører os frem til forskellige svar, som vi derpå kan undersøge nærmere. Den er en sprogmodel, der producerer en tekst ud fra andet indhold – men uden at vi kan se, hvad den har kogt det sammen af, og stille kritiske spørgsmål til det.

Bruger vi det ultrapopulære internetleksikon Wikipedia i stedet, er der ganske vist heller ingen eksplicit afsender, selv om teksterne her i det mindste er skrevet af rigtige mennesker. Til gengæld er der – som oftest – en liste over kilder i bunden af hver artikel, som vi kan arbejde kritisk videre med.

Muligheden for kildekritik i ChatGPT standser ved prompten.

Længere vej til ny viden

Den manglende menneskelige afsender er også problematisk, når det gælder kontroversielle emner. Maskiner har som bekendt ingen etiske overvejelser, og derfor har firmaet bag ChatGPT, OpenAI, indlagt visse begrænsninger af for eksempel kontroversielt sprog og holdninger.

Men det hjælper ikke en dyt, for vi ved ikke, hvad OpenAI finder kontroversielt, hvorfor, eller hvordan de har valgt at håndtere det. Ingen af disse filtreringsmekanismer er transparente eller anliggender for offentlig diskussion. Spørger vi ChatGPT om situationen i Ukraine, har vi ingen mulighed for at vurdere, om der ligger hensyn til den ene eller anden side bag svaret.

Naturligvis kan chatbotterne bruges til en række fornuftige formål, også i uddannelsessystemet. Men hvis vi ikke holder dem ud i strakt arm og konstant minder os selv og hinanden om, at de ikke kan erstatte menneskeligt produceret viden, risikerer vi, at den kildekritiske metode går i glemmebogen.

Vi risikerer samtidig at slå os til tåls med maskinernes raffinerede videregivelse af generisk information og dermed bremse udviklingen af ny viden.

Kunstig intelligens overflødiggør ikke uddannelse, men gør den tværtimod endnu vigtigere. Modgiften er menneskelig intelligens – det kræver kritisk dannede mennesker at forstå vores verden.

Derfor er det grundlæggende vigtigt, at vi investerer i uddannelse, biblioteker og leksika i takt med den teknologiske udvikling i stedet for at lukke dem ned. Hvis vi ikke kræver kvalificerede svar på spørgsmålet: ’Hvor ved du det fra?’, bliver vi alt for let bytte for manipulation og forsimpling, uanset om den kommer fra mennesker eller robotter.