De dubbla hoten från AI

Nobels Fredspris 2021 gick till ett par journalister som försöker göra skillnad. En av dessa är Maria Ressa som är verksam i Filippinerna. Hon driver nyhetssajten The Rappler i Manilla, men har mött ett organiserat motstånd från den tidigare presidenten Duterte och hans anhängare. Sedan 2022 är Ferdinand Marcos, son till den gamle diktatorn, president. Varje gång Maria Ressa ska resa utomlands måste hon få ett klartecken från myndigheterna. Ändå söker hon inte asyl i länder hon åker till, utan väljer att kämpa för demokratin. Jag läser Martin Gelins intervju med henne i Dagens Nyheter och plockar upp och citerar några tanketrådar ur den texten här.

På barrikaderna för demokratin
”Jag är inte redo att överge Filippinernas demokrati”, säger Ressa i intervjun. ”Det skulle symbolisera en oåterkallelig vändpunkt för journalistiken och demokratin. Det skulle bekräfta de värsta lögnerna om mig. Så jag kommer inte att röra på mig. Att flytta vore att ge upp.” Under Dutertes regim dödades 25 journalister. Och Ressa trakasserades av hans digitala trollarméer. Hon har också insett hur sambandet ser ut mellan de nya sociala plattformarna och de auktoritära krafter som tar allt större plats.

Nya former av förtryck
Ressa nämner Steven Feldstein, en forskare på Carnegie Endowment, som menar att tre asiatiska länder går i bräschen för en ny tidsera av digital tyranni: Kina, Thailand och Filippinerna. En ny frontlinje av förtryck håller på att formas där censur, övervakning och allt mer avancerad AI samverkar. Länderna är mottagliga för denna utveckling eftersom pressfriheten är svag, samhällsstrukturerna är rigida och för att det finns en utbredd vidskeplighet och delvis starka religiösa fundament som grogrund.

Ilskans algoritmer
I sin bok ”Konsten att bekämpa en diktator”, visar Ressa hur teknikplattformarna, som Facebook och Yotube, har bidragit till demokratins sönderfall. Hon nämner Myanmar och Indonesien, där stämningar har piskats upp mot olika folkgrupper och där Facebook även har erkänt sin roll i hur fördrivningen av rohingyer gick till i Myanmar. Även i Indien har motsättningarna mellan folkgrupper tagit väldiga proportioner. Och nästa utvecklingssteg oroar Maria Ressa, när ilskans algoritmer får nya, oanade krafter i kombination med en allt mer avancerad artificiell intelligens. Det som gör situationen så extra akut är att allt sker samtidigt som vi måste hantera en gigantisk och global klimatkris. ”Vi kan inte bekämpa klimatkrisen om vi inte känner till sanningen”, säger Maria Ressa.

Två system – inget av dem är något att ha
Andreas Cervenka, som bl.a. gett ut boken Girig-Sverige, skrev nyligen i Aftonbladet om AI: ”Idag kontrolleras den mest kraftfulla AI:n av en handfull privata techjättar som Google, Microsoft och Facebook. Den andra supermakten på området är det icke-demokratiska Kina. Där används redan AI för fullt i (…) automatiserade övervakningssystem och för insamling av data.” Två system står emot varandra, de vinstjagande techbolagen och den auktoritära supermakten. Ingen av dessa värnar demokratin, det öppna samtalet eller ens sanningen. AI i händerna på cyniska maktintressen, delvis kopplat till militära resurser, låter precis så farligt som det är.

Kaos när sanning och lögn inte går inte att skilja åt
En värld befolkad med tusentals AI-system, som var och en bygger sin ”kunskap” på de data den samlar in, kommer kunna blockera all traditionell källkritik enbart med hjälp av volymen information och baserat på möjligheten att fabricera filmmaterial som till slut blir omöjligt att avgöra om det är äkta eller ej. I det kaos som då kan uppträda ska AI-systemen orientera sig för att i sin tur kartlägga, strukturera och organisera fakta. Det säger sig självt att ingenting längre kommer kunna verifieras. Och detta kan gå fort.

När ska vi inse att frihet = ofrihet?
Det man verkligen kan fundera på är om Facebooks cyniska inblandning i folkmord och jakt på marknadsandelar ska uppmuntras, i synnerhet som deras motiv för att utveckla AI inte ligger i linje med vad som är värdefullt för samhället i stort, utan snarare ytterligare kommer att begränsa eller skada demokratin, tilliten mellan människor och det som vi värdesätter i vår kultur. Ska enstaka företagsintressen, precis som med oljan och klimatfrågan, sägas vara viktigare än civilisationens fortlevnad? Var går gränsen för den så kallade frihet som till slut bara leder till ofrihet?

Länktips:

DN-intervju med Maria Ressa: https://www.dn.se/kultur/maria-ressa-ai-kan-bli-mycket-maktigare-an-sociala-medier/

Aftonbladet-artikel av Andreas Cervenka: https://www.aftonbladet.se/nyheter/a/wA0v0n/vi-har-redan-tappat-kontrollen-over-ai