Olle Häggström
​Från föreläsningen AI Alignment and Our Momentous Imperative to Get It Right på konferens anordnad av GAIA, Gothenburg Artificial Intelligence Alliance, den 7 april 2022

Anslag för forskning om existentiell risk och longtermism

​Olle Häggström, professor på Matematiska vetenskaper, har fått ett anslag om 380 000 dollar från FTX Future Fund Regranting Program för projektet ”Topics in the theory of xrisk and longtermism”.

​Projektet handlar om existentiella risker (xrisk) för mänskligheten, något som Olle arbetat mycket med under senare år. Bland annat skrev han boken Here be Dragons: Science, Technology and the Future of Humanity 2016, och höll det internationella gästforskarprogrammet Existential risk to humanity 2017. Det nya projektet är delvis en konsekvens av de frön som såddes då.

Longtermism är idén att den viktigaste faktor som avgör värdet av våra beslut idag är vilka konsekvenser dessa får på mycket lång sikt. Ett av delprojekten handlar om hur man ska använda de resurser som finns till förfogande för longtermistiska ändamål: bör de läggas på konkreta åtgärder redan idag, eller är det bättre att spara (investera) dem för att använda vid någon framtida tidpunkt då de kan göra ännu mer nytta? Ett annat handlar om hur vi kan undvika en eventuell xrisk-katastrof till följd av ett otillräckligt genomtänkt AI-genombrott.

FTX Future Fund Regranting Program har startats av amerikanen Sam Bankman-Fried, som blivit mångmiljardär på sin handelsplattform för kryptovalutor. Han har lovat att använda minst 99% av tidigare och framtida inkomster till så kallad EA-filantropi. EA står för effektiv altruism, vilket är en rörelse som försöker använda evidens och kritiskt tänkande för att förbättra världen så effektivt som möjligt. Olle kontaktades av FTX Future Fund Regranting Program med ett förslag om att skicka in en ansökan, som sedan snabbt beviljades.

Anslaget kommer främst att frigöra tid för Olle att arbeta med projektet, omkring 60% av en heltid under tre år, där han räknar med att 40% kommer att läggas på forskning och 20% på utåtriktad verksamhet, policyarbete och mentorskap för yngre forskare. En mindre del av anslaget är vikt för resor och gäster.

Text: Setta Aspström


Sidansvarig Publicerad: fr 10 jun 2022.