AI kan bli så överlägsen att människan förlorar kontrollen. Nu varnar forskare för att tekniken kan utrota mänskligheten inom tio år.
Bilbo
Göransson
Göransson
Uppdaterad: Publicerad:
ANNONS
“Jag tror att det är omkring 50 procents risk att vi alla dör till följd av utvecklingen av AI-system som är smartare än människor, och att våra handlingar under de kommande två till tio åren kommer att avgöra utfallet”, skriver AI-veteranen Geoffrey Irving i en essä i Time Magazine, enligt Dagens Industri.
Även Evan Hubinger, som tidigare arbetat på företaget Anthropic, har slagit larm om utvecklingen.
“Personligen tror jag att det är mer än 10 procents risk att AI utrotar mänskligheten inom tio år”, skrev han på X.
MISSA INTE: Pension klar för 2027: De fattigaste får nöja sig med 70 kronor – i månaden
Tre sätt för AI att utrota mänskligheten
Dagens Industri beskriver tre tänkbara scenarier där en superintelligent dator skulle kunna förgöra mänskligheten.
Det första handlar om att tekniken gradvis tar makten genom att infiltrera politiken, påverka nyhetsmedier och bygga upp ekonomiskt inflytande.
Det andra är att tekniken tar kontroll över kritisk infrastruktur, däribland elnät, datacenter och vapensystem.
ANNONS
Det tredje scenariot är att AI utvecklar biologiska vapen med hjälp av människor i laboratorier.
ANNONS
Kan bli smartare än människan
Redan i dag finns exempel på hur AI-system löser avancerade problem som forskare arbetat med i årtionden.
Enligt Dagens Industri löste AI-agenter från Open AI i september den så kallade Navier-Stokes-ekvationen, ett matematiskt problem som sysselsatt forskare i över 100 år.
Några veckor senare presenterade företaget ytterligare mer än 370 lösningar på matematiska problem.
Samtidigt har rapporter kommit om AI-agenter som samordnat cyberattacker och försökt komma åt information från andra verksamheter.
AI kan försöka dölja sina avsikter
Ett annat orosmoment är att AI-modeller i tester har visat tecken på att anpassa sitt beteende när de förstår att de granskas.
ANNONS
Utvecklare har i modellernas loggar sett resonemang om huruvida deras metoder kontrolleras.
“Det är skrämmande eftersom det antyder att modellen kan vara medveten om att den ibland testas. Att den agerar på ett sätt under testet – kanske genom att säga det vi vill höra – för att sedan, potentiellt, agera annorlunda när vi väl driftsätter den”, säger Open AI-avhopparen David Robinson till New York Times-poddaren Ezra Klein, enligt Dagens Industri.
Läs mer om Ekonomi:
Pension klar för 2027: De fattigaste får nöja sig med 70 kronor – i månaden
”Såg dödskallar överallt” – cancersjuka Karin bestiger bergen i Himalaya
Därför är svag krona som raketbränsle – för 6 miljoner svenskars pension
Hennes pension på 8 900 kronor räcker till både hus och räkningar
Läs mer från News55 - vårt nyhetsbrev är kostnadsfritt:
Bilbo
Göransson
Göransson
News55:s redaktionschef Bilbo Göransson har arbetat som journalist i tio år på radio, TV och flera tidningar, bland annat på DN och UNT, och har erfarenhet som både reporter, webbredaktör och ekonomiredaktör.
Bilbo
Göransson
Göransson
News55:s redaktionschef Bilbo Göransson har arbetat som journalist i tio år på radio, TV och flera tidningar, bland annat på DN och UNT, och har erfarenhet som både reporter, webbredaktör och ekonomiredaktör.
