Kan en robot dömas?

Det finns en utbredd teknikoptimism i vissa kretsar. Tekniken ska lösa det mesta. Små partiklar i stratosfären ska reflektera solinstrålningen, så att klimatförändringen bromsas. Mars ska koloniseras. Självkörande bilar ska lösa våra transportproblem, avancerad AI-teknik ska avlasta hemtjänsten när robotar pysslar om de gamla, maskinerna ska till och med bygga nya maskiner utan att människan är involverad – det är ingen hejd på optimismen. Man glömmer två saker: All teknik går sönder och det finns alltid en mänsklig faktor att ta hänsyn till.

Exemplet Boeing
Boeing 737 Max 8 var en typ av flygplan som tekniskt ansågs ligga i framkant. På kort tid inträffade två olyckor med snarlika förlopp. Så här skrev tidningen Ny Teknik i mars 2019: ”Enligt experter tycks de båda krascherna likna varandra då planen bara några få minuter efter start störtdykt mot marken. Planet i Indonesien ska ha kraschat efter att nödsystemet felaktigt gått igång och därefter aktiverat autopiloten, som styrt planet nedåt. Piloterna ska inte ha kunnat ta över planet manuellt innan det slog ner i havet.” Nu tycks Boeing ha börjat leverera planet igen. Men exemplet blir i bästa fall en fortsatt väckarklocka för en övertro på automatiska tekniska system.

Olyckor som vi minns
Den minnesgode kan också komma att tänka på hur Tjernobyl-katastrofen uppstod 1986 och hur en kvarglömd dammsugare i Ringhals 2 den 10 maj 2011 kom att leda till en brand inne i reaktorn som kostade ägarna 1,8 miljarder kronor. Det är två illustrativa exempel på hur det – trots alla rutiner – sker mänskliga misstag, som får förödande konsekvenser. Vi hade tur att Ringhals-olyckan ”bara” handlade om en mindre brandförlopp och några månader i förlorad driftstid. Det hade kunnat bli mycket värre.

Två små exempel i vardagen
På ett privat plan har jag just nu två pågående exempel. En hiss i huset där jag bor beter sig märkligt ibland. Den tvärstannar mellan våningsplan, går sedan sakta vidare till rätt nivå och fortsätter därefter att fungera som tänkt. Eller får plötsligt för sig att växla till något slags serviceläge, då ingen knapp fungerar. Just i en hiss vill man inte drabbas av tekniska fel. Eller vår porttelefon, där öppningsfunktionen för att släppa in besök bara fungerar två gånger av tre i bästa fall. Teknik, som man litar på ska fungera i ett 8-våningshus, går just nu inte att lita på. Det är många trappor att gå om ytterporten ska öppnas manuellt och hissen är på dåligt humör.

Framåt
På den mer principiella nivån måste vi vara observanta på teknikens möjligheter och på vilka risker den för med sig. I takt med att fler och fler funktioner digitaliseras och integreras i det stora informationspusslet finns en risk att oväntade störningar leder till allvarliga problem på olika nivåer. Och självklart är det praktiskt att kunna utföra en massa ärenden med hjälp av en mobiltelefon, köpa, betala, planera, hålla kontakt, bli informerad osv. Samtidigt kan tekniken användas på ett sätt som skadar den enskilde eller delar av samhället. Regimer som vill ha koll på sina medborgare och destruktiva krafter som har egna motiv för att nå sina mål kan också använda tekniken.

Den moraliska aspekten har vi alltid själva ansvar för – i alla fall än så länge. Vad som händer i ett samhälle där den artificiella intelligensen själv tar beslut vet vi inte. Kan en robot dömas till böter eller fängelse?