Tag Archives: AI

AI, hur gör vi… och Rågsved 1976

Posted on by
Reply

Alla talar m AI. Hur AI kommer att förändra arbetsuppgifter och delvis göra viss personal överflödig. Hur snabbt det går och hur bra AI tycks fungera. Det är lite som den dot-com-bubbla vi upplevde för 20-25 år sedan. Jonas Birgersson, ni vet, som fick personifiera det nya företagandet. Det gick ett tag. Vad han gör idag vet jag inte.

Vad gör vi när det mesta troligen inte stämmer?
AI är i och för sig något annat och på ett sätt mer skrämmande. Vem skapar vad? Kan AI komma fram till att vi är för många på här planeten och på olika sätt agera för att vi ska använda all den destruktiva kraft som finns för att förgöra varandra? Om inget längre är sant, eller åtminstone med stor sannolikhet inte är sant, hur kommer kommer vi agera då? När ingen information längre är tillförlitlig, hur lever vi då våra liv?

Nära till ett primitivt beteende?
När desinformationen och fake news blir mainstream och det som fyller våra flöden, hur lever vi då? Vad och vem blir då kvar? Om varje google-sökning ger fler felaktiga än sanna svar, hur ska vi då orientera oss? Om internet bara blir en skräpkammare för dumheter och felaktigheter, vem kan då överhuvudtaget ta ställning till någonting? När misstron tar över kommer antagligen självförsvarsmekanismerna att bli ännu viktigare. Vi går snabbt mot en kulturell stenålder, då primitiva behov hamnar överst.

Banken hör av sig….
Vi får kanske ett meddelande att ”din bank har blivit hackad och vi återkommer när vi har åtgärdat felet”. Två dygn senare återkommer banken och säger på ett märkligt stelt sätt att ”Funktionaliteten är nu återställd. Var vänlig logga in på vanligt sätt.” Skulle vi göra det? Skulle vi lita på att banken fungerar i det läget? Och hur gör vi om vi inte har pengar?

Hur långt bort är kollapsen?
Jag känner att det är ett embryo till ett filmmanus jag spinner på. Som säkert redan X antal gånger skapats av någon programvara. Man är ju sällan ensam om en idé. Men hur nära är vi en systemkollaps på det område som är totalt fundamentalt: att vi kan lita på våra sinnen och den information vi får?

En vacker ballad om Rågsved 1976
Ett mer stillsamt tankespår erbjöd en Facebook-vän när han la ut Rågsved 1976 idag. En ballad om hur det kunde vara att växa upp i förorten Rågsved 1976. Skapad med text, musik och framförande av AI. Ganska övertygande, stämningsfull och stillsam, men med ett par mekaniska uttal av orden ”åkt” och ”förstad”, som avslöjar att det inte är en människa med svenska som modersmål som sjunger. Men nog är balladen fin. Tack, Erik. Länk nedan.

Länktips: Rågsved 1976, AI-genererad musikballad: här

Om AI från KTH

Posted on by
Reply

Artificiell intelligens, AI, är på tapeten. Chat GBT är den version av AI som flest tycks använda eller åtminstone tala om. Texter kan produceras av denna programvara på ett sätt som tycks likna vad människor skriver. Max Tegmark hävdade i ett Sommar i P1 att vi behöver lagstifta kring AI. Och på KTH håller Arnold Pears med honom. Jag lyssnade på Arnold Pears idag via ett webbinarium från KTH och troligen är det nödvändigt att sätta gränser för hur AI kan brukas och missbrukas. Åtminstone behöver vi föra en seriös diskussion om vilka problem och lösningar AI erbjuder, så att vi förstår teknikens dimensioner innan vi skapat nya och komplexa problem.

Vad är kunskap?
AI fungerar som en självförstärkande plagiatmaskin, lär vi oss av Arnold Pears. Den hittar texter och använder sannolikhetskalkyler för att komma fram till vad som oftast används i ett visst textuellt sammanhang. För lärandet behövs ett engagemang, menar Pears, och pekar på ett av missförstånden med AI. Om jag förstår honom rätt menar Pears att AI kan spökskriva texter, men att eleven eller studenten inget lär sig och att det enda som händer är att eleven/studenten sparar tid. Förståelse eller kunskap är inte en enkel kvantitativ process som att dricka sig otörstig. Pears hoppas att kommande generationer fortsätter att vara nyfikna och vill investera sitt engagemang i att lära sig nya saker.

Ansvarstagandet är en viktig del
AI är inte innovativ, menar Pears. Skapandet innehåller en del av våra egna erfarenheter. Och på det etiska området kommer det att behövas lagstiftning eftersom AI inte kan ta ansvar eller förstår skillnaden mellan vad som är bra eller mindre bra för samhället i stort. Just ansvarsfrågan menar Pears kommer att kräva att lagstiftning kommer på plats. Och min följdtanke blir ju då att åtminstone på EU-nivå kommer lagar att behöva formeras. Eftersom Kina, USA och Indien ligger i framkant av utvecklingen vore det lämpligt om alla länder kunde enas om några grundläggande regler.

Kina ligger före
Kanske är det så att Kina redan har kommit så långt i användandet av ansiktsigenkänning och liknande att man inte vill reglera tekniken. Då blir det upp till EU att vara desto vassare i hur tekniken ska få användas. Gör vi inget lär ”Storebror-ser-dig”-samhället snart vara en verklighet.

Är en AI-maskin rolig?
AI sätter fingret på vad vi egentligen menar med kunskap och förmåga. Är det en talande tablettmatningsmaskin vi får som sällskap på ålderdomshemmet, när personal blivit ”för dyr”? Är det virtuell kompis vi ska säga godmorgon till och föra samtal med? Hur roligt blir det? Kan en AI vara rolig? Eller är det vi som ska vara oroliga?

Fakta eller fiktion?
En annan fråga är hur AI kan spela roll i frågan om den allmänna opinionens benägenhet att lyssna på (exempelvis) Lena Anderssons hotellportier eller 11000 klimatforskare när det gäller klimatfrågan. Ger AI de svar folk vill ha, snarare än att peka på de utmaningar vi står inför? Risken är att faktaförnekandet tar ny fart när AI sätter igång och plagierar ”fel” sanningar…

Länktips: Här kommer föreläsningen läggas upp inom 14 dagar:
https://www.kth.se/om/mot/forelasningar-seminarier/oppna/arkiv

De dubbla hoten från AI

Posted on by
2

Nobels Fredspris 2021 gick till ett par journalister som försöker göra skillnad. En av dessa är Maria Ressa som är verksam i Filippinerna. Hon driver nyhetssajten The Rappler i Manilla, men har mött ett organiserat motstånd från den tidigare presidenten Duterte och hans anhängare. Sedan 2022 är Ferdinand Marcos, son till den gamle diktatorn, president. Varje gång Maria Ressa ska resa utomlands måste hon få ett klartecken från myndigheterna. Ändå söker hon inte asyl i länder hon åker till, utan väljer att kämpa för demokratin. Jag läser Martin Gelins intervju med henne i Dagens Nyheter och plockar upp och citerar några tanketrådar ur den texten här.

På barrikaderna för demokratin
”Jag är inte redo att överge Filippinernas demokrati”, säger Ressa i intervjun. ”Det skulle symbolisera en oåterkallelig vändpunkt för journalistiken och demokratin. Det skulle bekräfta de värsta lögnerna om mig. Så jag kommer inte att röra på mig. Att flytta vore att ge upp.” Under Dutertes regim dödades 25 journalister. Och Ressa trakasserades av hans digitala trollarméer. Hon har också insett hur sambandet ser ut mellan de nya sociala plattformarna och de auktoritära krafter som tar allt större plats.

Nya former av förtryck
Ressa nämner Steven Feldstein, en forskare på Carnegie Endowment, som menar att tre asiatiska länder går i bräschen för en ny tidsera av digital tyranni: Kina, Thailand och Filippinerna. En ny frontlinje av förtryck håller på att formas där censur, övervakning och allt mer avancerad AI samverkar. Länderna är mottagliga för denna utveckling eftersom pressfriheten är svag, samhällsstrukturerna är rigida och för att det finns en utbredd vidskeplighet och delvis starka religiösa fundament som grogrund.

Ilskans algoritmer
I sin bok ”Konsten att bekämpa en diktator”, visar Ressa hur teknikplattformarna, som Facebook och Yotube, har bidragit till demokratins sönderfall. Hon nämner Myanmar och Indonesien, där stämningar har piskats upp mot olika folkgrupper och där Facebook även har erkänt sin roll i hur fördrivningen av rohingyer gick till i Myanmar. Även i Indien har motsättningarna mellan folkgrupper tagit väldiga proportioner. Och nästa utvecklingssteg oroar Maria Ressa, när ilskans algoritmer får nya, oanade krafter i kombination med en allt mer avancerad artificiell intelligens. Det som gör situationen så extra akut är att allt sker samtidigt som vi måste hantera en gigantisk och global klimatkris. ”Vi kan inte bekämpa klimatkrisen om vi inte känner till sanningen”, säger Maria Ressa.

Två system – inget av dem är något att ha
Andreas Cervenka, som bl.a. gett ut boken Girig-Sverige, skrev nyligen i Aftonbladet om AI: ”Idag kontrolleras den mest kraftfulla AI:n av en handfull privata techjättar som Google, Microsoft och Facebook. Den andra supermakten på området är det icke-demokratiska Kina. Där används redan AI för fullt i (…) automatiserade övervakningssystem och för insamling av data.” Två system står emot varandra, de vinstjagande techbolagen och den auktoritära supermakten. Ingen av dessa värnar demokratin, det öppna samtalet eller ens sanningen. AI i händerna på cyniska maktintressen, delvis kopplat till militära resurser, låter precis så farligt som det är.

Kaos när sanning och lögn inte går inte att skilja åt
En värld befolkad med tusentals AI-system, som var och en bygger sin ”kunskap” på de data den samlar in, kommer kunna blockera all traditionell källkritik enbart med hjälp av volymen information och baserat på möjligheten att fabricera filmmaterial som till slut blir omöjligt att avgöra om det är äkta eller ej. I det kaos som då kan uppträda ska AI-systemen orientera sig för att i sin tur kartlägga, strukturera och organisera fakta. Det säger sig självt att ingenting längre kommer kunna verifieras. Och detta kan gå fort.

När ska vi inse att frihet = ofrihet?
Det man verkligen kan fundera på är om Facebooks cyniska inblandning i folkmord och jakt på marknadsandelar ska uppmuntras, i synnerhet som deras motiv för att utveckla AI inte ligger i linje med vad som är värdefullt för samhället i stort, utan snarare ytterligare kommer att begränsa eller skada demokratin, tilliten mellan människor och det som vi värdesätter i vår kultur. Ska enstaka företagsintressen, precis som med oljan och klimatfrågan, sägas vara viktigare än civilisationens fortlevnad? Var går gränsen för den så kallade frihet som till slut bara leder till ofrihet?

Länktips:

DN-intervju med Maria Ressa: https://www.dn.se/kultur/maria-ressa-ai-kan-bli-mycket-maktigare-an-sociala-medier/

Aftonbladet-artikel av Andreas Cervenka: https://www.aftonbladet.se/nyheter/a/wA0v0n/vi-har-redan-tappat-kontrollen-over-ai

Hur ska vi ha det med AI?

Posted on by
Reply

Det är fascinerande hur snabbt utvecklingen går på vissa områden och hur svårt det tycks vara att få utvecklingen gå åt rätt håll på andra. AI tycks utvecklas i en rasande takt och det finns hela tiden skribenter, forskare och andra som ömsom varnar för utvecklingen, ömsom ser fram emot vad som ska kunna hända. I NyTeknik skrev professor Olle Häggström nyligen och varnade för utvecklingen. (Se länk nedan). Han ser en risk i att AI utvecklas i en annan riktning än vad som står i överensstämmelse med ”människans värderingar”. Redan där kan man hejda sig och fundera. Vad menar vi med människans värderingar?

Vi upplever saker som en AI aldrig kan förstå
Människan kan inte bortse från våra basala behov. Vi känner hunger, törst och sömnbehov för att ta tre exempel. Det kommer en AI-individ aldrig kunna relatera till. Likadant med andning, puls, beröring och de inre rytmerna, som hela tiden gör sig påminda för oss människor, men aldrig kan bli en del av AI-individens verklighet. För att inte tala om drömmar, på dagen och på natten. Eller att njuta av vacker musik.

Värderingar är inte enhetliga
Spännvidden i värderingar är en annan aspekt. Diktatorer och demokrater har ju till exempel helt olika preferenser. Men även ur ett mer småskaligt perspektiv finns det stora skillnader. Vi har alla lite olika nivå på empati, medmänsklighet och osjälviskhet. Vi gynnar ibland andra människor hellre än oss själva. Ser bortom egennyttan i olika utsträckning, gynnar våra barn osv. Kan man tänka sig en AI som inte gynnar sig själv?

Är det 8 miljarder problem?
Om vi tänker vidare att AI skulle börja fundera på vad eller vilka som skapar världens problem så kommer den snart fram till att det är 8 miljarder människor som är det största problemet. Det en intelligent AI då kan göra är att vilseleda människor med felaktig information så att vi t.ex. tar fatala beslut på fel underlag. Startar onödiga krig t.ex. Det AI då måste inse är att utan elektrisk ström kommer den själv inte kunna existera, varför det snabbt blir en fråga om att behålla rätt typ av mänsklig kompetens i världen för att kunna hålla igång elproduktion och distribution.

Werner Aspenström
Här finns många uppslag för kommande TV-serier, filmer och böcker. Det revolutionära förhållningssättet i hela denna AI-hype blir kanske då att skala ner perspektiven och, så som Göran Greider påpekar i dagens ledare i ETC, att lågmält och försiktigt vända sig bort från det storskaliga och i stället bejaka det lilla, det fantastiska i naturens mångfald och avstå konsumismen. ”Sardinen vill att burken öppnas mot havet”, citerar Greider Werner Aspenström och undrar om det är något hoppfullt eller en förtvivlan i den raden. Själv tror jag att sardinen vill sluta cirkeln, hitta hem. Och att vi människor måste öppna upp för just detta, att hitta hem.

Länktips: Ny Teknik-artikel: https://www.nyteknik.se/debatt/vi-kan-inte-ta-for-givet-att-vi-overlever-en-otillrackligt-sakrad-gpt-5/2016676