Debatten om generativ AI står och stampar i frågor om fusk, autenticitet och teknik. Inte sällan med tydligt moralistiska förtecken; där fokus ligger på när och hur man ”får” använda det för textproduktion. Den mer avgörande frågan handlar dock om något annat; vad händer med omdöme, förståelse och ansvar när människor väljer att outsourca sitt eget tänkande?
Naturligtvis ska man använda generativ AI, men …
Får man använda generativ AI för att skriva text? Och om man får det; när och på vilket vis? Är man ”autentisk” om man låter AI generera en text utifrån egna tankar, och spelar autencitet någon roll? Är det ett demokratiskt och inkluderande verktyg som ger alla möjlighet att uttrycka sig, eller är det ”fusk”? Förstör det diskussionerna eller breddar det dem? Ställningstagande görs om vad som är förkastligt och vad som är tillåtet. Tonläget är högt, moralismen påtaglig.
Mindre uppmärksamhet ägnas åt vad skrivande faktiskt är och vilken funktion det fyller. För poängen med att skriva är inte bara att producera text, och för vissa; det utsökta nöjet i att finna de rätt orden och placera dem i rätt ordning. Poängen är också att förstå saker lite bättre än vad man gjorde innan. Där skrivandes process medför att tankar prövas, bryts ned, byts ut.
Det är i skrivandet man upptäcker var man har fel, var man är oklar och var man saknar tillräcklig kunskap. Det är i skrivandet man byter åsikter, fördjupar sin förståelse, hittar nya mönster. Det är i skrivandet det grumliga blir klart. Det dunkelt skrivna är det dunkelt tänkta, för att travestera Tegnér.
Det är därför skrivande ofta är ansträngande och innefattar motstånd. Motstånd från tankegången, motstånd från innehållet, motstånd från själva orden. Fylla en sida med text är inte svårt, men fylla en sida med rätt text kan ta precis hur lång tid som helst. Motståndet är inte ineffektivitet, även om det kan kännas så, utan den mekanism som utvecklar förståelsen hos den som skriver. Detta gör motståndet essentiellt; det tar tid att skriva för att det måste ta tid att skriva.
Vi talar ofta om det självständiga tänkandet som en rättighet, något som ryms inom det formella tillerkännandet av individens rätt till tanke- och åsiktsfrihet. Men i praktiken är det självständiga tänkandet snarare en disciplin, vilken kräver upprepad ansträngning, motstånd och en viss beredskap att stå utanför. Det självständiga tänkandet kan därmed inte delas ut som gåva. Det måste erövras, steg för steg, av varje individ.
Tanke- och åsiktsfrihet må låta stort, men utan självständigt tänkande betyder det intet. I en tid där tekniken erbjuder genvägar till färdiga svar blir det självständigt tänkande därför både svårare och mer avgörande.
Intet av detta betyder att generativ AI saknar värde. Tvärtom. Som verktyg kan det på många sätt förbättra produktivitet, struktur och tydlighet. Problemet uppstår när användningen förskjuts från stöd till ersättning.
Kognitiv disciplin i komplexa system
När man överlämnar hela eller stora delar av skrivandet till generativ AI outsourcar man alltså inte bara produktionen. Man outsourcar samtidigt delar av det egna tänkandet. Man avstår träning. Man minskar den kognitiva ansträngningen som krävs för att utveckla analys och omdöme. Det man får tillbaka är i bästa fall en snyggare text och högre produktionstakt. Det man förlorar är svårare att mäta, men otvivelaktigt viktigare.
I grunden är mekanismen enkel; den som avstår kognitiv ansträngning blir sämre på det. Det gäller förståelse. Det gäller analys. Det gäller omdöme.
Historiskt har utbildning, forskning och kvalificerat arbete byggt på antagandet att människor själva måste utveckla denna disciplin. Långsamt och ofta frustrerande. Den genväg som generativ AI nu erbjuder är naturligtvis lockande, men den skapar ett strukturellt dilemma; effektivitet på kort sikt står i konflikt med individens – med samhällets – kapacitet på lång sikt.
I kunskapsintensiva samhällen är den kollektiva förmågan att resonera, väga alternativ och fatta beslut under osäkerhet en helt avgörande resurs. Om denna förmåga gradvis försvagas påverkar det institutioner, organisationer och i förlängningen varje politiskt beslut. Ett samhälle där människor inte kan formulera egna tankar och göra rimligt självständiga bedömningar, är ett samhället där frihet och demokrati reducerats till ord, tomma på innehåll.
“The most courageous act is still to think for yourself.” – Coco Chanel
Effektivitetens paradox och beroendets logik
Det är inte svårt att se varför generativ AI är så tilltalande. Organisationer belönar vanligen snabb produktion och synliga resultat; att producera mer text, fler analyser och fler underlag framstår som rationellt. Generativ AI passar synnerligen väl in i denna logik.
På engelska skiljer man mellan efficiency och effectiveness. Det förstnämnda handlar om att göra saker rätt – att minimera slöseri av tid, resurser och ansträngning. Det sistnämnda om att göra rätt saker – att faktiskt nå de mål och resultat man säger sig eftersträva. I idealfallet kombineras båda. I svenskan saknas denna distinktion och vi tenderar ofta att nöja oss med att optimera processen och kalla det framgång.
Men man kan vara mycket effektiv i betydelsen snabb och produktiv, utan att komma närmare det man egentligen vill uppnå. Och man kan nå vissa mål på kort sikt samtidigt som man undergräver långsiktig kapacitet. Att producera fler texter snabbare kan alltså framstå som effektivt, men när den ökade produktionstakten sker till priset av minskad förståelse blir systemet mer effektivt på ytan samtidigt som den underliggande kompetensen – förmågan att tänka självständigt – gradvis urholkas.
En sådan utveckling kan inte rimligen kallas ”framgång” i någon seriös bemärkelse av ordet, oaktat vad människor tenderar att kalla det för.
Detta är inte ett nytt fenomen. Liknande dynamik har funnits i andra teknologiska skiften, där automatisering minskat behovet av vissa färdigheter samtidigt som beroendet av systemen ökat. Skillnaden nu är dock att det inte ”bara” handlar om manuellt arbete utan just kognitiva processer.
Om man skriver brukstexter – reklam, copy eller kommunikation – kan konsekvenserna vara mer begränsade, då dessa i större utsträckning handlar om produktion än om förståelse. Risken finns förstås att den skriftliga kompetensen eroderas över tid, men huruvida det är ett problem eller inte är snarare en fråga om preferens; ty alla varken vill eller behöver vara skickliga på att självständigt producera text. Tänka, däremot, är – vågar jag påstå – viktigt för alla.
Genom att outsourca analyser, ställningstaganden och idéutveckling till generativ AI, outsourcar vi den egna förståelsen och det egna omdömet. Något som är mycket svårt att återuppbygga när det väl försvagats. Det kräver erfarenhet, ansträngning och exponering för osäkerhet, det kräver misstag och korrigeringar av dessa misstag. Det kräver tid.
Autonomi och intellektuell frihet
Redan de antika stoikerna var tydliga: ingen är fri som inte behärskar sig själv. I ett modernt kunskapssamhälle översätts det till att kunna tänka självständigt. För den som saknar denna förmåga är i praktiken aldrig fri, oaktat hur fritt samhället omkring henne är. Formell yttrandefrihet, tillgång till information och demokratiska institutioner betyder mycket litet, om individen saknar förmåga att själv värdera, väga och dra slutsatser.
Att vara beroende av andras analyser innefattar en subtil men reell maktasymmetri. Den som inte förstår kan inte ifrågasätta. Den som inte kan värdera information hamnar i underläge inför den som påstår sig veta. Den som inte kan formulera egna argument förlorar inflytande till dem som kan.
Kognitiv outsourcing skapar alltså en uppdelning mellan dem som utvecklar förståelse och dem som konsumerar färdiga slutsatser. Därmed är frågan om generativ AI långt mycket större än frågor om effektivitet och vikten av att vara autentisk (enligt vissa) när man skriver inlägg på LinkedIn.
Ytterst är det en fråga om individens frihet och autonomi likväl som det demokratiska samhällets själva funktion.
Ett val med konsekvenser
Den centrala frågan är därför inte om generativ AI ska användas. Frågan är hur. Om man väljer att använda tekniken för att förstärka mänskligt tänkande kan den vara ett kraftfullt verktyg. Om den används för att ersätta det kommer det gradvis att försvaga den intellektuella disciplin som det moderna samhällen vilar på.
Frågan har tekniska och organisatoriska dimensioner, men ytterst är den individuell. System förändras först när människor förändrar sitt beteende. Den som inte tar ansvar för sin egen förståelse, den som konsekvent undviker att tänka själv, bör inte bli förvånad när förmågan att göra det till slut går förlorad. Valet är i grunden fritt.
Men denna frihet är formell, inte neutral.
Foucault skrev:
”Kunskap är ett själsligt äventyr och en själslig förvandling. Den som vet skiljer sig inte från den som inte vet genom det enkla faktum att den förre känner till vissa saker, utan genom det faktum att personen i fråga inte längre är densamme. Med andra ord: kunskap är det som förvandlar själva subjektiviteten hos den som vet.”
Att veta är i denna mening att förändras. Det är en process som kräver tid, motstånd och osäkerhet. Om vi systematiskt väljer bort denna process väljer vi också bort en del av den person vi annars hade kunnat bli.
Frågan är därför inte bara vad generativ AI gör med vår produktivitet. Frågan är vem vi blir när vi vänjer oss vid att inte tänka själva.
Valet är fritt. Men inte utan konsekvenser.
