AI-experten Yuval Noah Harari varnar att människor börjar bli hackade

Artificiell intelligens saknar medvetande och samvete. För att undvika hot i framtiden när det har blivit för sent måste lagstiftning hända nu. 

2021-11-07 Utvecklingar på AI-områden och inom bland annat genetik kommer att leda till utveckling av nya människoarter samt till syntetiska människor, hävdar AI-experten Yuval Noah Harari i en intervju med 60 minutes.

För 70000 år sedan, gick moderna människor genom en kognitiv förändring som ledde till utveckling av tal och språk. Detta ledde till att andra arter såsom Neandertalarna drevs till utrotning. Människorna kunde nu samarbeta med varandra och bygga stora samhällen.

Harari menar att vi nu i vår tur riskerar att bli dominerade av AI.

Medvetande och intelligens har under mångmiljoner år gått hand i hand. Medvetandet gör det möjligt för oss att känna smärta, lycka och sorg. Intelligens är förmågan att lösa problem.

 Datorer och AI saknar ett medvetande. De har endast intelligens. De löser problem på helt andra sätt jämfört med oss människor.

AI-forskning antar att datorer kommer att utvecklas mer och mer och bli allt mer komplexa och att de till slut kommer att utveckla ett medvetande. Det riktigt skämmande är dock maskiner som blir alltmer intelligenta och kan lösa problem utan att utveckla något medvetande alls eftersom de inte kommer att ha någon empati för oss.

I framtiden kommer de företag och institutioner som kontrollerar information att vara de som kommer att kontrollera världen.

Just nu samlar företag och staten information som handlar mest om var vi går, vad vi gör, vad vi köper, vad vi tittar på online. Snart nog kommer de att samla information om vad som händer i kroppen.

Anders Cooper som intervjuar Harari pratar om klockan han bär som samlar information om sömn och hjärtrytm.

”Jag vet inte var denna information går.” säger han. ”Och jag tror att detta gynnar mig” säger han.

Harari svarar med att denna utveckling inte bara har dystopiska beståndsdelar, utan också utopiska sådana. Sådan teknik kan hjälpa oss att skapa bästa möjliga hälsosystemet. Frågan är på vilka andra sätt datan används, vilka är aktörerna som har tillgång till den och vem det är som reglerar den. Mer och mer används medborgarnas hälsoinformation i olika länder för forskning nu när den är lätt att samla in med hjälp av teknik och datorer.

En huvudregel enligt Harari bör vara att man bör ha en regel: Datan som samlas in skall inte användas för att manipulera mig utan för att hjälpa mig.

En annan bra regel är att var gång man utökar övervakning av människor bör man också öka övervakningen att de företag, organisationer, myndigheter, som får tillgång till informationen ifråga.

En tredje och sista regel bör vara att aldrig låta all data samlas in på en enda plats eftersom det lätt hänt leder till diktatur.

Netflix berättar för oss vad vi skall titta på, medan Amazon berättar för oss vad vi skall köpa. Eventuellt kommer sådana algoritmer att börja berätta för dig vad du skall studera på högskolan, vad du skall jobba med, vem du skall gifta dig med och vem du skall rösta på.

Harari tror att utan lagar och regler för AI och dess algoritmer kommer vi att omvandlas till ”hackade människor”.

”Att hacka en människa innebär att lära känna den där människan bättre än han/hon känner sig själv.” förklarar Harari. ”Och med grund i detta kan man lättare bli manipulerad.”

AI-systemet kommer ihåg allting som du någonsin har gjort. Den kan analysera och hitta mönster i den här informationen och skaffar sig en mycket bättre idé om vem du verkligen är.

”Jag kom ut som homosexuell när jag var 21 år gammal. Det borde ha varit uppenbart för mig att jag var det redan när jag var 15 år gammal. Men något i sinnet blockade detta. I dagens samhälle klurar oftast Facebook och Amazon ut om man är homosexuell innan man själv gör genom att analysera mönster.”

Harari oroar sig eftersom i vissa regimer i exempelvis Ryssland eller Iran, kan polisen ta reda på din sexuella orientering redan innan du själv blir medveten om det.

Harari tycker dessutom att man inte bör lämna AI-forskningen och utvecklingens i AI-programmerarens händer allena.

Kodare och programmerare bör inte hålla filosoferna ute eftersom etiska dilemman är något som en filosof snarare än ett AI-snille kan hjälpa till att lösa. En självkörande bil kan exempelvis kämpa med att fatta liv-och-död beslut. Om ett barn plötsligt springer ut framför bilen kan bilen välja att köra över barnet eller svänga och krocka med en lastbil något som ökar risken för att bilägaren dör. AI-forskare måste få hjälp med att lösa sådana filosofiska etiska frågor. AI-lagstiftning måste ske på en internationell global nivå. Man kan inte lösa AIs explosiva kraft på nationell nivå.