Naturligtvis ska man använda generativ AI, men …

Får man använda generativ AI för att skriva text? Och om man får det; när och på vilket vis? Är man ”autentisk” om man låter AI generera en text utifrån egna tankar, och spelar autencitet någon roll? Är det ett demokratiskt och inkluderande verktyg som ger alla möjlighet att uttrycka sig, eller är det ”fusk”? Förstör det diskussionerna eller breddar det dem?  Ställningstagande görs om vad som är förkastligt och vad som är tillåtet. Tonläget är högt, moralismen påtaglig.

Mindre uppmärksamhet ägnas åt vad skrivande faktiskt är och vilken funktion det fyller. För poängen med att skriva är inte bara att producera text, och för vissa; det utsökta nöjet i att finna de rätt orden och placera dem i rätt ordning. Poängen är också att förstå saker lite bättre än vad man gjorde innan. Där skrivandes process medför att tankar prövas, bryts ned, byts ut.

Det är i skrivandet man upptäcker var man har fel, var man är oklar och var man saknar tillräcklig kunskap. Det är i skrivandet man byter åsikter, fördjupar sin förståelse, hittar nya mönster. Det är i skrivandet det grumliga blir klart. Det dunkelt skrivna är det dunkelt tänkta, för att travestera Tegnér.

Det är därför skrivande ofta är ansträngande och innefattar motstånd. Motstånd från tankegången, motstånd från innehållet, motstånd från själva orden. Fylla en sida med text är inte svårt, men fylla en sida med rätt text kan ta precis hur lång tid som helst.  Motståndet är inte ineffektivitet, även om det kan kännas så, utan den mekanism som utvecklar förståelsen hos den som skriver. Detta gör motståndet essentiellt; det tar tid att skriva för att det måste ta tid att skriva.

Vi talar ofta om det självständiga tänkandet som en rättighet, något som ryms inom det formella tillerkännandet av individens rätt till tanke- och åsiktsfrihet. Men i praktiken är det självständiga tänkandet snarare en disciplin, vilken kräver upprepad ansträngning, motstånd och en viss beredskap att stå utanför. Det självständiga tänkandet kan därmed inte delas ut som gåva. Det måste erövras, steg för steg, av varje individ.

Tanke- och åsiktsfrihet må låta stort, men utan självständigt tänkande betyder det intet. I en tid där tekniken erbjuder genvägar till färdiga svar blir det självständigt tänkande därför både svårare och mer avgörande.

Intet av detta betyder att generativ AI saknar värde. Tvärtom. Som verktyg kan det på många sätt förbättra produktivitet, struktur och tydlighet. Problemet uppstår när användningen förskjuts från stöd till ersättning. 

Kognitiv disciplin i komplexa system

När man överlämnar hela eller stora delar av skrivandet till generativ AI outsourcar man alltså inte bara produktionen. Man outsourcar samtidigt delar av det egna tänkandet. Man avstår träning. Man minskar den kognitiva ansträngningen som krävs för att utveckla analys och omdöme. Det man får tillbaka är i bästa fall en snyggare text och högre produktionstakt. Det man förlorar är svårare att mäta, men otvivelaktigt viktigare.

I grunden är mekanismen enkel; den som avstår kognitiv ansträngning blir sämre på det. Det gäller förståelse. Det gäller analys. Det gäller omdöme.

Historiskt har utbildning, forskning och kvalificerat arbete byggt på antagandet att människor själva måste utveckla denna disciplin. Långsamt och ofta frustrerande. Den genväg som generativ AI nu erbjuder är naturligtvis lockande, men den skapar ett strukturellt dilemma; effektivitet på kort sikt står i konflikt med individens – med samhällets – kapacitet på lång sikt.

I kunskapsintensiva samhällen är den kollektiva förmågan att resonera, väga alternativ och fatta beslut under osäkerhet en helt avgörande resurs. Om denna förmåga gradvis försvagas påverkar det institutioner, organisationer och i förlängningen varje politiskt beslut. Ett samhälle där människor inte kan formulera egna tankar och göra rimligt självständiga bedömningar, är ett samhället där frihet och demokrati reducerats till ord, tomma på innehåll.

“The most courageous act is still to think for yourself.” – Coco Chanel

Effektivitetens paradox och beroendets logik

Det är inte svårt att se varför generativ AI är så tilltalande. Organisationer belönar vanligen snabb produktion och synliga resultat; att producera mer text, fler analyser och fler underlag framstår som rationellt. Generativ AI passar synnerligen väl in i denna logik.

På engelska skiljer man mellan efficiency och effectiveness. Det förstnämnda handlar om att göra saker rätt – att minimera slöseri av tid, resurser och ansträngning. Det sistnämnda om att göra rätt saker – att faktiskt nå de mål och resultat man säger sig eftersträva. I idealfallet kombineras båda. I svenskan saknas denna distinktion och vi tenderar ofta att nöja oss med att optimera processen och kalla det framgång.

Men man kan vara mycket effektiv i betydelsen snabb och produktiv, utan att komma närmare det man egentligen vill uppnå. Och man kan nå vissa mål på kort sikt samtidigt som man undergräver långsiktig kapacitet.  Att producera fler texter snabbare kan alltså framstå som effektivt, men när den ökade produktionstakten sker till priset av minskad förståelse blir systemet mer effektivt på ytan samtidigt som den underliggande kompetensen – förmågan att tänka självständigt –  gradvis urholkas.

En sådan utveckling kan inte rimligen kallas ”framgång” i någon seriös bemärkelse av ordet, oaktat vad människor tenderar att kalla det för.

Detta är inte ett nytt fenomen. Liknande dynamik har funnits i andra teknologiska skiften, där automatisering minskat behovet av vissa färdigheter samtidigt som beroendet av systemen ökat. Skillnaden nu är dock att det inte ”bara” handlar om manuellt arbete utan just kognitiva processer.

Om man skriver brukstexter – reklam, copy eller kommunikation – kan konsekvenserna vara mer begränsade, då dessa i större utsträckning handlar om produktion än om förståelse. Risken finns förstås att den skriftliga kompetensen eroderas över tid, men huruvida det är ett problem eller inte är snarare en fråga om preferens; ty alla varken vill eller behöver vara skickliga på att självständigt producera text. Tänka, däremot, är – vågar jag påstå – viktigt för alla.

Genom att outsourca analyser, ställningstaganden och idéutveckling till generativ AI, outsourcar vi den egna förståelsen och det egna omdömet. Något som är mycket svårt att återuppbygga när det väl försvagats. Det kräver erfarenhet, ansträngning och exponering för osäkerhet, det kräver misstag och korrigeringar av dessa misstag. Det kräver tid.

Autonomi och intellektuell frihet

Redan de antika stoikerna var tydliga: ingen är fri som inte behärskar sig själv. I ett modernt kunskapssamhälle översätts det till att kunna tänka självständigt. För den som saknar denna förmåga är i praktiken aldrig fri, oaktat hur fritt samhället omkring henne är. Formell yttrandefrihet, tillgång till information och demokratiska institutioner betyder mycket litet, om individen saknar förmåga att själv värdera, väga och dra slutsatser.

Att vara beroende av andras analyser innefattar en subtil men reell maktasymmetri. Den som inte förstår kan inte ifrågasätta. Den som inte kan värdera information hamnar i underläge inför den som påstår sig veta. Den som inte kan formulera egna argument förlorar inflytande till dem som kan.

Kognitiv outsourcing skapar alltså en uppdelning mellan dem som utvecklar förståelse och dem som konsumerar färdiga slutsatser. Därmed är frågan om generativ AI långt mycket större än frågor om effektivitet och vikten av att vara autentisk (enligt vissa) när man skriver inlägg på LinkedIn.

Ytterst är det en fråga om individens frihet och autonomi likväl som det demokratiska samhällets själva funktion.

Ett val med konsekvenser

Den centrala frågan är därför inte om generativ AI ska användas. Frågan är hur. Om man väljer att använda tekniken för att förstärka mänskligt tänkande kan den vara ett kraftfullt verktyg. Om den används för att ersätta det kommer det gradvis att försvaga den intellektuella disciplin som det moderna samhällen vilar på.

Frågan har tekniska och organisatoriska dimensioner, men ytterst är den individuell. System förändras först när människor förändrar sitt beteende. Den som inte tar ansvar för sin egen förståelse, den som konsekvent undviker att tänka själv, bör inte bli förvånad när förmågan att göra det till slut går förlorad. Valet är i grunden fritt.

Men denna frihet är formell, inte neutral.

Foucault skrev:

”Kunskap är ett själsligt äventyr och en själslig förvandling. Den som vet skiljer sig inte från den som inte vet genom det enkla faktum att den förre känner till vissa saker, utan genom det faktum att personen i fråga inte längre är densamme. Med andra ord: kunskap är det som förvandlar själva subjektiviteten hos den som vet.”

Att veta är i denna mening att förändras. Det är en process som kräver tid, motstånd och osäkerhet. Om vi systematiskt väljer bort denna process väljer vi också bort en del av den person vi annars hade kunnat bli.

Frågan är därför inte bara vad generativ AI gör med vår produktivitet. Frågan är vem vi blir när vi vänjer oss vid att inte tänka själva.

Valet är fritt. Men inte utan konsekvenser.

The post Vägen till ofrihet kantas av goda föresatser – och generativ AI appeared first on Subversivt.

Men i en tid där rättsväsendet samtidigt investerar i kraftfulla analysverktyg som kan kartlägga samband över stora datamängder uppstår en legitimitetsfråga. Hur ska medborgaren förstå och förhålla sig till skillnaden mellan seriösa misslyckanden, prioriteringar och nonchalans när det aldrig tydliggörs?

”Under ett dygn skickade en man upprepade (grovt) sexuella bilder och videoklipp till mig, självklart utan mitt samtycke. Materialet skickades inte från ett anonymt konto och avsändaren var tydlig och högst identifierbar”, skriver politikern Jessica Stegrud på Facebook.

Trots det lyder motiveringen från rättsväsendet: ”Fortsatt förundersökning förväntas ej leda till att brott kan styrkas. Det går inte att bevisa vem som utfört handlingen.”

Hon avslutar retoriskt: ”Är det rimligt? Är det ett tecken på ett fungerande rättsväsende tycker du?”

Nej, det tycker människor avgjort inte. Hennes eget kommentarsfält, och senare många andras, fylls av arga och upprörda människor. Det hon beskriver tolkas som nonchalans, ointresse och allmän oförmåga hos polisen.

Så kan det naturligtvis vara, jag vet inte vad polisen har gjort eller inte har gjort (jag ska återkomma till det problemet), men jag vet att det inte är givet utifrån den information som vi har att tillgå.

Vad vet vi – och vad går att bevisa?

Här måste man hålla isär vad som känns självklart kontra vad man faktiskt vet och vad som går att bevisa juridiskt. Gärningsmannen är inte känd för att Jessica Stegrud eller någon annan tror sig veta vem det är.

Det går nämligen utmärkt att skapa konton i sociala medier under annans namn. Ett befintligt konto kan användas olovligen. Telefonnummer kan spoofas, så att det ser ut som att ett sms eller samtal kommer från en viss person, fast det i själva verket är någon annan. Till det så kan man med varianter av generativ AI och tekniker som Deepfake skapa filmer och bilder som ser äkta ut men inte är det.

Det räcker alltså inte att det ser ut som att en viss person är avsändare, eller att en viss, identifierbar, person förekommer i materialet, för att vi ska veta att denna är avsändare. Till det så arbetar rättsväsendet inte med tro, utan med bevis, så även det som kan verka självklart behöver utredas och ledas i bevis.

Sexuellt ofredande som brott ses normalt som tillräckligt allvarligt för att ge polisen möjlighet att begära ut loggar och annan teknisk information. Det är alltså fullt möjligt – kanske till och med sannolikt – att de gjorde det.

Att ärendet lades ned betyder nämligen inte självklart att polisen avstod från att inhämta uppgifter. Det kan betyda att den information som kom tillbaka inte var tillräcklig för att kunna peka ut en bestämd person.

Vad sysslar polisen med – egentligen?

När polisen begär ut data i sådana här fall får de tekniska uppgifter så som IP-adresser, tidsstämplar, kontonamn och uppgifter om vilken typ av enhet som använts. Det motsvarar dock sällen en identitet.

En IP-adress kan leda till ett mobilnät eller en delad adress som används av många samtidigt. Operatören kan ibland bara säga vilket abonnemang som haft tillgång till uppkopplingen vid en viss tidpunkt. VPN-tjänster och andra anonymiseringslösningar kan göra spårningen ännu svårare eller omöjlig.

Når polisen fram till ett abonnemang är det inte självklart vem som faktiskt använde telefonen eller datorn vid tillfället. Abonnemang kan stå på någon annan än den misstänkte, flera personer kan ha haft tillgång till enheten. Så det är inte självklart enkelt att koppla det till en individ. Att något verkar sannolikt är inte samma sak som bevisligen sant.

Om det dessutom inte finns kompletterande bevis – som beslag av en enhet där kontot är inloggat, ett erkännande, eller andra digitala spår som pekar åt samma håll – tar det ofta stopp. Då har man information, utan att för den sakens skull ha bevis i juridisk mening.

I ett sådant läge är det inte märkligt om polisen bedömer att det inte går att bevisa vem som utfört handlingen. Och kan de inte det, lägger de naturligtvis ned ärendet.

Med det sagt så betyder inget av detta att polisen gjort något av detta, eller vad de rimligen borde, i Stegruds specifika fall. Vi vet inte heller hur vanligt det är att sådan data begärs ut, eller hur stor andelen är där informationen är tillräcklig för att arbeta vidare med. Av något skäl är det inget som polisen väljer att kommunicera. Inte heller kommunicerar de att det är ungefär så här som deras arbete går till och vilka svårigheter de kan stå inför.

Det går att diskutera huruvida det är rätt eller fel val, men klart är att det får en massa människor att tänka och tycka saker om polisen som varken bygger på stabil grund eller är vidare smickrande.

Men prioriteringarna då?

En av de saker som människor ”vet” när de diskuterar frågan är att outredda fall handlar om prioriteringar, med uppfattningar om vad som inte prioriteras och vad som prioriteras i stället. De har som minst till hälften rätt.

Polisen och åklagarmyndigheten har alltid fler ärenden än de har resurser för att utreda fullt ut. Det innebär att även när ett brott formellt är tillräckligt allvarligt för att motivera vissa åtgärder, väger de i praktiken hur långt det är rimligt att gå i varje enskilt fall. Hur mycket tid ska läggas på teknisk analys? Hur många spår följas upp? Hur länge ska ärendet hållas öppet innan man bedömer att ytterligare arbete sannolikt inte kommer att leda någonstans?

Två ärenden kan vara juridiskt likvärdiga men ändå få olika utredningsdjup beroende på arbetsbelastning, tillgänglig kompetens, konkurrerande grova brott och organisatoriska prioriteringar vid just den tidpunkten.

”Rimliga åtgärder” är alltså i högsta grad ett relativt begrepp.

Perception, legitimitet och kommunikation

Ur ett systemperspektiv är detta centralt, eftersom det bidrar till den godtycklighet som medborgarna upplever. För den som drabbas framstår det inte självklart som en fråga om prioriteringar i en portfölj av ärenden, utan som en värdering av det egna brottet: ”var det inte viktigt nog, var det – jag – inte värd mer ansträngning?”

Inte heller medför insikt om att prioriteringar görs, eller att man accepterar det principiellt, att man känner sig trygg med att denna prioritering är rätt för det allmänna fallet, eller att det var korrekt i ens eget specifika fall.

Samtidigt är det lite knepigt att hantera kommunikativt. Om polisen öppet skulle skriva att ett ärende lagts ned på grund av (relativ) resursbrist är risken stor att det kommer att uppfattas som ett erkännande av systemfel. Om de å andra sidan inte säger något allts, riskerar det att uppfattas som nonchalans eller ointresse, vars nackdelar är uppenbara.

Konkret får medborgarna ofta ett standardsvar som förklarar mycket lite, och som absolut inte nämner några prioriteringar.

När krass realitet varken uttalas eller förklaras, gör människor sina egna tolkningar, ofta negativa. Och när fallen sprids – som här i sociala medier – väcks också andra frågor; vad prioriterades i stället, och varför. Många tror sig veta, och så förstärks bilden av en polis som hellre sysslar med nykterhetskontroller och ”sätta dit pensionärer för hets mot folkgrupp” än ”riktiga brott”.

Det är mycket möjligt att en närmare granskning av polisen, utifrån tillgänglig statistik och data, tydligt skulle påvisa områden där människors perception är felaktig. Men de människor som engagerat diskuterar saken gör naturligtvis inte sådana granskningar. De utgår från det som de tycker sig se och drar sina slutsatser ändå. Vilket understödjs av att polisen lämnat fältet öppet för spekulation.

Informationsvacuum som informationsstrategi

När ett ärende läggs ned med en mycket kort standardmotivering uppstår ett informationsvacuum. För en utomstående går det inte att avgöra om utredningen varit grundlig men resultatlös, eller ytlig och snabbt avslutad.

Bristen på information om var i processen det tog stopp – eller om det var en process överhuvudtaget – gör det svårt för den enskilda att välja vilken väg man ska ta. Ska man bråka eller inte? Ska man begära överprövning, anmäla till JO, gå till media, eller ska man acceptera beslutet? Har polisen gjort allt de rimligen borde göra, är det naturligtvis bättre att lära sig leva med det än att lägga tid och energi på att bråka. Men om polisen inte gjort det, blir det ett svek mot en själv att inte kämpa för att få det skydd av rättsväsendet som samhällskontraktet utlovat.

För brottsoffret får detta ofta tydliga emotionella konsekvenser. Utöver den ursprungliga kränkningen tillkommer en sekundär belastning: känslan av att inte bli tagen på allvar, av att lämnas ensam med utfallet, av misstanken att rättsväsendet inte ens försökte utan bara gick vidare.

Den bristande transparensen flyttar dessutom över ansvaret på det enskilda brottsoffret att orka ifrågasätta. De som inte har resurser, kunskap eller ork faller bort. Det är inte riktigt lyckat när det handlar om myndigheter som enligt alla fina dokument och värdegrunder förväntas behandla medborgare likvärdigt.

Här finns också en tydlig kostnadsasymmetri. För rättsväsendet är ett nedlagt ärende ett beslut bland många. För brottsoffret kan det vara slutpunkten på en lång och påfrestande process.

Denna oklarhet får alltså konsekvenser. Inte bara för det enskilda brottsoffret, utan för förtroendet för rättsväsendet i stort. När människor inte kan se skillnad på ett seriöst misslyckande och ren passivitet, tenderar de att tolka det på värsta möjliga vis. Speciellt om förtroendet redan är lågt.

Ansvar och transparens

Ironiskt nog är det alltså polisens eget fel att gott arbete lönas som ett dåligt, och att förtroendet eroderas som en konsekvens därav. För det är polisen, inte medborgaren, som gjort det aktiva valet att inte göra sina beslut mer begripliga. Att inte i höge grad vara transparenta med sina arbetsprocesser och prioriteringar.

Någonstans är det dock medborgarna som betalar priset. För hur man än vrider och vänder på saken så förlorar både individer och kollektivet på att inte känna förtroende för det rättsväsende som vi lämnat bort vår rätt att skydda oss själva till.

Allt det här hade varit illa nog i sig. Men bilden blir betydligt mer problematisk när man samtidigt ser vilka verktyg polisen faktiskt använder.

Mycket makt. Väldigt lite insyn.

Polisen är inte självklart så handfallna inför tekniska svårigheter som min första beskrivning gjorde gällande. För medan nedlagda förundersökningar ofta motiveras med att det inte går att bevisa vem som utfört handlingen, att beviskedjan inte håller, att kopplingen mellan teknisk information och individ inte är tillräckligt stark, så använder polisen ett av världens mest avancerade system för storskalig dataintegration, analys och mönsterigenkänning. Ett system vars hela idé är att just länka samman fragmenterad information till sammanhängande beslutsunderlag, speciellt utvecklat för underrättelseverksamhet och övervakning. Närmare bestämt: Palantir Gotham.

Palantir Gotham gör det möjligt att länka, visualisera och analysera stora mängder data; konkret betyder det att information som tidigare låg utspridd i olika register, anmälningar och tips automatiskt kan kopplas ihop och analyseras som en helhet. Systemet kan automatiskt visa kopplingar mellan personer, telefonnummer, fordon, adresser och händelser, och presentera det som nätverkskartor, tidslinjer eller geografiska översikter, där samband och mönster blir visuellt tydliga. Det handlar alltså inte bara om att systemet lagra stora mängder data, utan om att kunna hitta samband som annars hade varit svåra eller omöjliga att se för en enskild handläggare.

I praktiken kan systemet till exempel upptäcka att en person som förekommer i en trafikstoppning också har kopplingar till en adress där misstänkt verksamhet pågår, att samma telefonnummer dyker upp i flera olika utredningar, eller att ett visst mönster av händelser upprepas i olika delar av landet. Eller – i alla fall teoretiskt – på detaljnivå kartlägga en person misstänkt för sexuellt ofredande.

AI och maskininlärning är centrala komponenter i Palantir Gotham, vilket innebär att det kan används för prediktiva analyser, mönsteridentifiering och automatiserade beslutsstöd. Dessa funktioner har ytterligare förstärkts genom Palantirs AIP-plattform, som integrerar generativ och analytisk AI i befintliga dataprocesser.

Det betyder i praktiken att systemet inte bara visar vad som redan har hänt, utan också kan hjälpa till att bedöma vad som sannolikt kommer att hända. Prediktiva analyser kan till exempel identifiera områden där risken för viss brottslighet är högre baserat på historiska mönster. Mönsteridentifiering kan upptäcka avvikande beteenden – som ovanliga transaktionsflöden eller kommunikationsmönster – som kan signalera något som bör granskas närmare.

Automatiserade beslutsstöd innebär att systemet kan föreslå prioriteringar eller åtgärder baserat på samlade, tillgängliga data – som att lägga ned ett ärende – men juridiskt behöver det vara människor som fattar de formella besluten.

Att Palantir inte skulle kunna ta vid där andra, traditionella system behöver ge upp, faller alltså på sin egen orimlighet. Hur polismyndigheten än använder detta i praktiken.

Teknisk förmåga och politisk konsekvens

Att polisen använder system som möjliggör bred analys av stora datamängder, men samtidigt kommunicerar till brottsoffer att ”det inte går att bevisa vem som gjort vad”, skapar en legitimitetskris. Minst sagt.

Vi står inför två principiella möjligheter: Antingen används Palantirs kapacitet fullt ut – vilket väcker allvarliga frågor om proportionalitet och laglighet – eller så används de selektivt och begränsat, vilket i sin tur väcker frågan varför man över huvud taget valt just denna typ av kontroversiellt och kraftfullt verktyg, till denna höga kostnad.

För Palantir Gotham är ungefär så långt ifrån ett neutralt teknikval som man kan komma.

Teknik på kollisionskurs med rättsstaten

I svensk rätt gäller tydliga principer: legalitet, proportionalitet, ändamålsbegränsning och transparens. Tvångsmedel och intrång i den personliga integriteten ska stå i proportion till brottets allvar och det konkreta utredningsbehovet. Datainsamling ska vara nödvändig, specificerad och kontrollerbar. Dessa principer kommer till uttryck i rättegångsbalken, polislagen, offentlighets- och sekretesslagen, GDPR och EU:s AI Act.

Palantirs system är däremot byggda för ett helt annat paradigm: maximal dataintegration, bred åtkomst till korskopplad information och analys på populationsnivå. Kritiken mot Palantir i andra europeiska länder har därför huvudsakligen handlat just om rättslig och demokratisk kontroll.

Palantir är ett amerikanskt bolag och omfattas av Cloud Act, som i vissa fall kan tvinga fram utlämning av data till amerikanska myndigheter även när uppgifterna lagras i Europa. Detta står i direkt konflikt med svensk och europeisk rätt, och kan inte lösas genom avtal, eftersom avtalsvillkor inte upphäver tvingande amerikansk lag.

Därtill kommer bristen på insyn. Palantirs källkod är inte öppen. Algoritmerna fungerar som en svart låda. Det finns ingen extern granskning av hur data vägs, hur mönster identifieras eller hur riskbedömningar görs. För svenska myndigheter innebär detta ett reellt problem i förhållande till GDPR:s krav på transparens och AI Act, som ställer krav på dokumentation, spårbarhet och verifierbar tillförlitlighet i högrisk-AI-system.

Konstitutionella konflikter i praktiken

I Tyskland har detta lett till öppna konflikter. År 2023 slog den federala författningsdomstolen fast att användningen av Palantir Gotham var grundlagsstridig. Domstolen pekade särskilt på att systemet möjliggjorde okontrollerad samkörning av data från olika källor, såsom befolkningsregister och kommunikationsuppgifter, att transparensen kring vilka personer som omfattades av analyserna var otillräcklig, samt att skydden mot profilering av personer som inte var misstänkta för brott inte höll konstitutionell nivå.

Det man konkret bedömde som olagligt var alltså att människor som inte är misstänkta för något kan få sina uppgifter sammanställda, analyserade och värderade av polisen utan att veta om det, utan möjlighet att invända och utan tydliga rättsliga gränser. Staten får ett verktyg som ser samband överallt – men den enskilde har ingen insyn i när, hur eller varför just hen hamnat i systemet.

Till det så kan man fråga sig hur en myndighet som inte fullt ut kan redogöra för hur systemet fungerar ska kunna visa att databehandlingen varit nödvändig, proportionerlig och korrekt? Och om systemet används för att fatta beslut om ärendenedläggning, hur kan resonemanget bakom beslutet förklaras för medborgarna (vilket de rent krasst behöver kunna göra)?

Kostnad, beroende och digital suveränitet

Palantirs licenser är dessutom mycket dyra. Anpassningar till europeisk och nationell lagstiftning innebär ofta att centrala funktioner måste stängas av eller begränsas. Erfarenheter från Tyskland visar att stora delar av funktionaliteten förblir oanvänd, samtidigt som IT-avdelningar belastas tungt. Exit-strategier saknas ofta, vilket skapar ett leverantörsberoende som är svårt att förena med långsiktig offentlig förvaltning. Något som fått synnerligen stor aktualitet senaste tiden när insikten om vikten av digital suveränitet börjat landa. Efter fem års användning, kan polisen byta system ens om de vill?

Den politiska dimensionen

En annan problematisk aspekt är Palantirs politiska och ideologiska kontext. Företagets medgrundare och huvudägare är Peter Thiel. Han har inte bara uttryckt djupgående kritik mot den liberala demokratin utan också argumenterat för elitstyrda samhällsmodeller där folkligt inflytande spelar en underordnad roll – en samhällssyn där politisk makt bör koncentreras till en teknologisk och ekonomisk elit snarare än legitimeras genom brett folkligt deltagande.

Det är därför knappast förvånande att han ofta beskrivs som en närmast arketypisk “Bond-skurk”: en extremt förmögen teknikentreprenör med uttalat systemkritiska ambitioner och direkt inflytande över politisk makt. Thiel är nämligen en central finansiär bakom Donald Trump och JD Vance och har även finansierat kandidater och nätverk kopplade till nationalkonservativa rörelser i USA.

Detta påverkar acceptansen – och därmed legitimiteten – för användningen i en svensk rättsstat. I det nuvarande geopolitiska läget är det inte klockrent. Vill vi, givet den rådande situationen, ge mer av våra skattemedel till någon som stöttar Trump med stora summor?

Det går naturligtvis att diskutera hur man ska förhålla sig till sådana frågor – generellt och i det specifika fallet –, men någonstans bör offentlig sektor fråga sig vilka organisationer de stöttar, direkt och indirekt, samt vilka konsekvenser det kan få på sikt. Sverige existerar inte i ett vacuum, den senaste tidens uttalanden och händelser i USA har onekligen påverkat oss, exempelvis.

Det finns alltså många frågetecken kring användandet av Palantir.

För medborgarna blir det samlade resultatet otydligt, motsägelsefullt och skadar i längden deras förtroende. Om staten samlar, analyserar och korskopplar data i stor skala, men ändå inte kan – eller vill – förklara hur den arbetar och varför den misslyckas, då urholkas tilliten. Och utan tillit fungerar vare sig rättssäkerhet eller rättsstat i praktiken.

Vikten av transparens

Rättsväsendet är helt rimligt bundet av höga beviskrav, de ska inte arbeta på indicier, magkänsla eller social konsensus. De är också bundet av prioriteringar och resursbegränsningar, vilket i praktiken är ofrånkomligt. De är dessutom alltmer beroende av tekniska system som är komplexa, ogenomskinliga och svåra att förklara – ibland även för dess användare.

Inget av detta behöver nödvändigtvis vara ett problem i sig, men när dessa faktorer kombineras med en nästan total frånvaro av begriplig återkoppling till den enskilde medborgaren uppstår ett allvarligt problem.

För brottsoffret reducerar det hela processen till ett kort konstaterande: det går inte att bevisa. Vad som prövats, vad som vägts, vad som varit möjligt men prioriterats bort – allt detta försvinner. Kvar blir en känsla av att staten antingen inte brydde sig, eller inte kunde. Och i praktiken spelar det ingen roll vad som verkligen skedde, eftersom utfallet upplevs på samma sätt.

Samtidigt som man kommunicerar till medborgarna att det inte går att fastställa vem som utfört en handling, förväntas de dessutom acceptera att rättsväsendet använder system som Palantir Gotham – byggt för storskalig dataintegration, mönsteridentifiering och prediktiv analys. Ett system där man antigen använder den tekniska kapaciteten fullt ut, vilket väcker frågor om proportionalitet och rättsliga gränser, eller så används den selektivt och begränsat, vilket väcker frågan varför den då alls behövs. I båda fallen förstärks behovet av begriplig redovisning av hur och varför beslut fattas.

I Jessicas Stegruds fall är det fullt möjligt att polisen gjorde allt som rimligen kunde göras. Det är också fullt möjligt att de inte gjorde det. Poängen är att vi inte vet. Och den ovissheten är inte en olycklig bieffekt – den är en konsekvens av hur systemet valt att organisera sitt arbete och sin kommunikation.

Detta är kärnan i problemet. Inte att rättsväsendet ibland misslyckas, utan att det inte förklarar sina misslyckanden. Inte att alla brott inte klaras upp, utan att det inte går att avgöra om de ens prövats på ett sätt som står i rimlig proportion till brottets allvar.

Förtroende bygger inte på att staten alltid lyckas, utan på att den går att förstå, granska och i någon mån hålla ansvarig. När den möjligheten försvinner ersätts tillit med spekulation, och rättssäkerhet med misstänksamhet.

Det är därför ökad transparens inte handlar om välvilligt tillmötesgående från polisens sida utan om en systemkritisk nödvändighet. Först när medborgaren kan skilja det enda från det andra kan denne acceptera att staten ibland inte räcker till. Vilket i sin tur är en förutsättning för att staten ska kunna behålla det förtroende som dess legitimitet vilar på.

Jessicas Stegruds fråga – Är det rimligt? Är det ett tecken på ett fungerande rättsväsende? – kan inte besvaras med ett enkelt ja eller nej. Men så länge systemet gör det omöjligt att förstå varför ett ärende läggs ned, kommer svaret för allt fler att bli just nej. Och det är ett betydligt större problem än ett enskilt nedlagt ärende.

Läs Schweiziska försvarsmaktens utvärdering av Palantir

Rapporten i original

Rapporten översatt till svenska

(Notera att jag inte har gjort översättningen till svenska och inte heller kan läsa den i original, så jag kan inte garantera den svenska översättningens överenstämmelse med originalet. Givet det jag vet om Palantir och även om den Schweiziska försvarsmaktens utvärdering från andra källor håller jag det dock för sannolikt.) 

“It is not possible to prove who committed the act”
– on standards of proof, Palantir and the silence of the state

A discontinued preliminary investigation into sexual harassment has sparked strong reactions. When an offence does not lead to prosecution, the victim is often given a brief explanation: it cannot be proven. Yet in an era in which the justice system is simultaneously investing in powerful analytical tools capable of mapping connections across vast datasets, a question of legitimacy arises. How is the citizen to understand and relate to the distinction between serious investigative failure, prioritisation, and negligence when it is never clarified?

Read article in English

The post ”Det går inte att bevisa vem som utfört handlingen” – om beviskrav, Palantir och statens tystnad appeared first on Subversivt.

”Vill du göra samhällsnytta och bidra till Sveriges oberoende i världen? Vi söker nu en Azure tekniker med fokus på utveckling, drift och förvaltning av FRA:s molnlösningar. Låter detta som något för dig? Ansök nu!”

Så lyder annonsen signerad Försvarets radioanstalt (FRA). FRA är en svensk underrättelsemyndighet under Försvarsdepartementet vars uppgift är att samla in och analysera signaler i elektronisk kommunikation.

Organisatorisk infrastruktur är sällan så skyddad som man inbillar sig. Genom öppna källor – som jobbannonser, tekniska kravprofiler och upphandlingsdokument – är det fullt möjligt att successivt konstruera en tydlig bild. Varje enskild uppgift må vara harmlös i sig, men deras samlade effekt är desto mer informativ.

När en myndighet efterfråga kompetens inom specifika tekniska ekosystem, som molnplattformar eller leverantörsbundna identitetslösningar, kan man göra rimliga antaganden om beroenden och arkitektur, exempelvis. Det kanske inte säger exakt allt, men det behöver man å andra sidan inte för att kunna göra strategiska analyser.

Så organisationers egna krav på transparens, eller vanlig obetänksamhet för den delen, skapar möjligheter till infrastrukturell kartläggning. Detta innebär naturligtvis inte att skyddsvärd information har, eller kommer att, exponeras. Men det gör det avgjort lättare för den som har sådana intressen, allt annat lika.

Microsoft lyder under under amerikansk jurisdiktion

Om vi tänker oss att Azure används av en säkerhetsmedveten myndighet får vi förutsätta att användningen är avgränsad. Att det handlar om stödfunktioner, utvecklingsmiljöer eller applikationsdrift utan beröring med skyddsvärd information, snarare än molnlagring av den samma.

Detta förändrar dock inte det faktum att Microsoft (som levererar Azure), lyder under amerikansk jurisdiktion. Det innebär att politiska beslut I USA kan påverka den svenska myndighetens handlingsutrymme, oberoende var data fysiskt lagras eller hur väl den är krypterad.

Konsekvenser för olydnad

Vid en politisk konflikt mellan USA och Sverige – till exempel för att en part vill ha Grönland – kan det få konsekvenser, både med och utan aktiva tvångsåtgärder. Saker som osäkerhet kring framtida tillgång, förändrade avtalsvillkor eller begränsad support skapar en strukturell sårbarhet.

Tänker man sig att myndigheten dessutom har ett tekniskt beroende av Azure (eller andra Microsoft-tjänster), kan det naturligtvis användas som ett politiskt påtryckningsmedel. Ty möjligheten att snabbt ersätta eller avveckla sådan beroenden är begränsad, framförallt i tid.

Nu vill jag inte tro att FRA lagrar skyddsvärda data via Azure. Men det bör noteras att det faktum att Azure har datacenter för molnlagring i Sverige inte förändrar de möjligheter amerikansk förvaltning har att få tillgång till denna data via Cloud Act.

Utan digital suveränitet har vi ingen suveränitet

Öppna källor möjliggör alltså rimliga antaganden om infrastruktur och leverantörsbundenhet, medan juridisk och politisk kontroll över dessa leverantörer skapar risker som vi helt enkelt inte kan reducera genom tekniska skyddsåtgärder.

Det är svårt att inte notera ironin i att denna annons dyker upp samma dag som Trump öppet uttrycker sitt missnöje med Sverige och hotar med strafftullar för att framtvinga lydnad i Grönlandsfrågan.

Vad blir nästa steg om vi inte lyder?

Sovereignty as a Service

– on the Security Policy Implications of Frictionless Technology Choices

When one of Sweden’s most security-critical authorities seeks expertise in American cloud technology, it reveals more than a simple recruitment need. Open sources, legal dependencies and geopolitics intertwine to form an uncomfortable question: just how sovereign is our digital preparedness?

Read article in English

The post Suveränitet som tjänst – om säkerhetspolitiska konsekvenser av smidiga teknikval appeared first on Subversivt.

Microsoft Azure har varit rimligt framgångsrika i att skapa en illusion av kontroll och skalbarhet, samtidigt som det de facto innebär en strukturell beroendeställning gentemot en global aktör vars intressen jag inte direkt skulle kalla kongruenta med användarnas.

Men det är klart, juridisk och geopolitisk osäkerhet kring datalagring, en påtaglig sårbarhet vid driftstörningar samt ekonomisk oförutsägbarhet (“flexibilitet”), skapar onekligen spänning i vardagen.

Molnbaserade ekosystem så där i allmänhet behöver inte vara dåligt, men lite för ofta innebär det onekligen trygghet genom att ge upp all rimlig kontroll.

Och det är inte direkt så att politikerna är på bollen. De har inte ens fattat vilken sport som spelas.

Förmodligen ser de fortfarande internet som en fluga. Och i vilket fall som helst är de upptagna med att skrämma folk med Signal och försöka implementera massövervakning av medborgarna via Chat Control.

Det är inte många dagar sedan AWS gick ner.

Tietoevry-haveriet lämnade knappast en krusning på ytan.

Jag ser fram emot mer spänning.

The post Vad kan rimligen gå fel? appeared first on Subversivt.

I maj 2025 avslog Stockholms stadsfullmäktige en begäran från USA:s ambassad om att staden skulle avskaffa sina program för mångfald, jämlikhet och inkludering (DEI).

Jag vet inte vilka applikationer specifikt som Stockholms stad använder, eller var deras data lagras, men det är inte osannolikt att de precis som många andra inom offentlig verksamhet har gjort sig beroende av amerikanska organisationer och tjänster som Microsoft, AWS och Google.

Stockholms stads vägran att följa ambassadens instruktioner hade därför kunnat leda till att dessa företag fått en begäran från amerikanska myndigheter att blockera vissa funktioner, med hänvisning till nationella säkerhetsintressen. Något som är fullt möjligt under amerikansk lag.

Nu skedde inte det, men det scenario jag målar upp är varken osannolikt eller långsökt.

För det har redan skett. Det senaste exemplet är Microsoft som blockerat chefsåklagaren vid Internationella domstolen i Haags e-postkonto, efter Trumps instruktioner. Även hans bankkonto i Storbritannien blockerades.

För Sveriges del omfattar den här risken stora delar av vår digitala infrastruktur, det som får offentliga organisationer och dess verksamhet att fungera. Det handlar om skolplattformar, journalsystem, ekonomihantering, socialtjänstens data, kommunens budget. Och det handlar om vanliga applikationer som använd i löpande arbete, som Microsoft Outlook och Teams.

Nuvarande amerikanska administration kan kort sagt stänga ner stora delar av svensk förvaltning, om de så önskar. Ett agerande som skulle få ransomware-attacken mot Tietoevry 2024 att kännas som en västanfläkt.

Detta är långt farligare för samhällets funktion – och skulle jag säga; långt mer sannolikt – än att Trump beordrar trupper till svenskt territorium.

(Även om den gissningen för all del bygger på ett antagande om rationellt och rimligt förutsägbart agerande från hans sida. Vilket är orimligt i sig.)

Det är alltså inte en fråga om teknik i första hand, utan en fråga om nationella säkerhetsintressen.

Vi befinner oss i den här situationen för att Sverige har prioriterat bekväm drift, framför säker och oberoende drift. Och det kommer att fungera exakt fram till den punkt när det inte gör det längre.

Vilket kan vara precis vilken sekund som helst, extra mycket så givet nuvarande amerikanska administrations relativa volatilitet.

Det är anmärkningsvärt, om än inte förvånande, att regeringen likväl som andra delar av offentlig förvaltning fortfarande stoppar huvudet i sanden.

MERLÄSNING 

Debattartikel: Europa behöver digital suveränitet

”USA kan beordra sina datajättar att lämna Danmark om inte Grönland lämnas över, för att sänka det danska samhället. Idag är det ingen skillnad mellan digital suveränitet och verklig suveränitet.”

Läs hela artikeln här:  Europa behöver digital suveränitet

The post Svensk förvaltning i amerikanska händer appeared first on Subversivt.

Och lite längre ner: ”På den misstänkte mannens Facebooksida finns inga tecken på att han skulle sympatisera med IS eller någon annan terroristgrupp. Men den ger rikliga inblickar i hans liv och umgänge.[…]”

Tänk dig in i följande scenario:

Du är terrorist för Daesh (IS). Du har fått i uppgift att åka till Sverige för att genomföra ett terroristattentat. Strategin går ut på att du ska låtsas vara flykting och ansöka om asyl. För att senare, vid ett specifikt tillfälle, agera. Vad gör du när du väl är i Sverige?

a) Du skapar en öppen Facebooksida där du tydligt visar upp dina sympatier och dina relationer till Daesh. Du passar även på att tala om hur mycket du hatar alla otrogna hundar i Sverige.

b) Du ska skapar en stängd Facebooksida med samma innehåll som alternativ a)

c) Du skapar en öppen Facebooksida där du arbetar aktivt för att bygga upp en bild av dig som ska överensstämma med det ”cover” som du valt; det vill säga den som fredsälskande flykting. Du tänker också att eftersom de flesta personer har Facebook skulle det verka konstigt om du inte hade det.

d) Du lär dig Facebook och inser att du till exempel kan checka in någonstans där du faktiskt inte befinner dig. Och att du naturligtvis kan editera tidigare poster (även om det syns tidpunkt för när du postat och när du editerat).

The post Häpnadsväckande ignorans gällande terroristmisstänkts Facebookprofil appeared first on Subversivt.

Krönikan har tidigare publicerats i Internetworld

The post Myten om det skadliga internet appeared first on Subversivt.