Hon undersöker hur AI-vänner påverkar ungas mående

Negin Hashmati, doktorand i Interaktionsdesign, forskar på hur AI-vänner kan komma att påverka ungas psykiska hälsa.

Med hjälp av fiktiva framtidsberättelser vill doktoranden Negin Hashmati ta reda på hur ungas psykiska mående kan komma att påverkas av relationer med så kallade AI-vänner. Målet är att bidra med kunskap som lagstiftare kan använda för att förebygga eventuella negativa konsekvenser av AI-relationer.

Ett verktyg som för några år sedan sågs som science fiction erbjuds idag av flera företag och används av miljontals människor globalt. Det handlar om AI-vänner, eller virtual companions: AI-baserade chattbotar som människor kan ha relationer med. Medan chattbotar som Chat-GPT ofta används för hjälp med arbetsuppgifter eller som bollplank fungerar AI-vänner i stället som en vän eller romantisk partner. Risker och möjligheter med AI-vänner har på senare år diskuterats men lite är känt om hur dessa verktyg påverkar användarna.

Det vill Negin Hashmati ändra på. Hon är doktorand i Interaktionsdesign vid institutionen för data- och informationsteknik och vill i sin forskning undersöka hur ungdomars psykiska mående påverkas av att ha relationer med AI-chattbotar.

– Jag vill ta reda på om unga mår bättre eller sämre av att ha haft en relation med AI-chattbotar under flera år, säger hon.

Negin Hashmati drar paralleller mellan AI-chattbotar och sociala medier, där det idag finns mycket forskning som visar att sociala medier påverkar ungas psykiska mående negativt.

– Det är fortfarande för tidigt att säga om AI-chattbotar kommer att bli ett lika utbrett fenomen som sociala medier. Men tänk om vi kunde förekomma utvecklingen av AI-chattbotar och identifiera de negativa konsekvenserna innan de uppstår? Det vill jag bidra till med min studie, säger hon.

Noveller som forskningsverktyg

Första steget i projektet är en intervjustudie bland svenska ungdomar i åldern 16–25 som Negin Hashmati just nu genomför tillsammans med sin handledare Thommy Eriksson. Intervjuerna kommer att ge forskarna en första indikation på hur svenska ungdomar använder AI-vänner, något det i dagsläget finns få studier om. Parallellt genomför Negin Hashmati en litteraturstudie över forskningen kring AI-vänner. Utifrån dessa resultat ska hon skriva noveller om vilken roll AI vänner kan komma att spela i en nära framtid.

– Detta är en metod som kallas Design fiction som går ut på att man skapar fiktiva berättelser baserade på forskning som beskriver den nya tekniken och dess plats i samhället. Design fiction är en vedertagen metod inom området människa-dator-interaktion, men vi har inte sett den användas för studier på AI-chatbotar, säger Negin Hashmati.

Mål att påverka lagstiftning

I nästa steg sätts novellerna ihop till en antologi. Den kommer även att inkludera Design fiction-noveller skrivna av andra forskare inom området för att skapa en så mångsidig bild som möjligt av hur utvecklingen av AI-vänner kan komma att se ut. Antologin ska därefter fungera som diskussionsunderlag i workshops med olika samhällsaktörer som skolor, förskolor, företag, kommuner och liknande.

– Fiktion är ett användbart och effektivt sätt att förmedla tankar och idéer. Genom att låta olika intressenter ta del av dessa berättelser kan vi förhoppningsvis få en bra förståelse för synen på den här tekniken. Ofta kan effekterna av ny teknik studeras först i efterhand, men Design fiction ger oss möjligheten att göra ett antagande grundat i forskning.

Negin Hashmati hoppas att resultatet från hennes studie ska kunna bidra med kunskapsunderlag för lagstiftare i arbetet med riktlinjer kring AI-chattbotar. 

– Jag tror chattbotar kan vara till stor hjälp vid sociala fobi, för att träna på jobbintervjuer och presentationer eller som stöd för någon som är väldigt ensam. Men vi behöver också förstå mer om riskerna. I den bästa av världar kan vi dra nytta av fördelarna samtidigt som vi är förberedda på nackdelarna.

Läs mer om forskningsprojektet om AI-vänner

I detta forskningsprojekt vill vi undersöka de möjliga fördelarna och nackdelarna med framtida "virtuella vänner". Vi strävar efter att ta fram rekommendationer och förslag på lagstiftning som är väl förankrade i en intressentgemenskap, både nationellt och internationellt. Vårt fokus ligger inte på att utveckla ny teknologi, utan på att studera tillämpad informationsteknologi, det vill säga hur teknologin integreras och samspelar med samhället och individer i deras dagliga liv.