På techföretaget Asymptotic AI pågår ett forskningsprojekt för att skapa säkrare system för självkörande bilar och assistanssystem. I projektet används en bil med sex olika kameror och en laserscanner som mäter avstånd till objekt. Bilen kör omkring i Göteborg och samlar ihop data för maskininlärning.
Yinan Yu är forskarassistent på institutionen för data- och informationsteknik och en av medgrundarna till Asymptotic AI, som har en nära koppling till Chalmers forskningscenter.
- Det är viktigt att använda flera system som kompletterar varandra för datainsamlingen och analysen, eftersom systemen har olika syften och egenskaper, säger Yinan Yu.
- Perceptionen, alltså hjärnans hantering och tolkning av information, är grunden för hela systemet. För om du inte kan se finns inte en chans att du kan fatta rätt beslut. För perceptionsbiten behöver du två saker: du behöver se och du behöver förstå det du ser.
Sparas de inspelade filmerna efteråt, eller används de bara under tiden bilen körs?
- Det vanliga när man har självkörande fordon som filmar omgivningen är att man sparar inspelningarna för att använda dem i utvecklingssyfte. Analysen av data är avgörande för kvaliteten och mycket viktig för säkerheten. Men det behövs större volymer av datainsamling och ytterligare AI-utveckling innan man kan använda självkörande fordon, säger Yinan Yu.
- Det finns många scenarier som kan bli mycket kritiska inom fordonsindustrin, där man inte har utrymme att tillåta sig misslyckas. Det är därför självkörande fordon inte har satts ut på vägarna ännu, vi har inte riktigt kontroll över dem, säger hon.
Vad finns det för risker med den här typen av projekt?
- GDPR är en sak som måste beaktas till exempel. Att filma och spela in folk på gatan är helt klart ett integritetsintrång, men eftersom vi kör runt med kameror på bilen går det inte att undvika att filma människor. En lösning kunde vara att ha tydlig information på bilen om att man blir inspelad, säger Yu.
- Vi har även konstruerat en anonymiseringsprogramvara som suddar både människors ansikten och de registreringsskyltar som fastnat på film. Men ibland räcker inte det med att bara göra människors ansikten suddiga, det går att känna igen dem ändå utifrån deras kroppsform, kläder och annat.
Det finns flera anonymiseringsprogram som Asymptotic AI använder sig av i sin forskning och produktutveckling. Programmen kan till exempel sudda ut en hel kropp och enligt Yu är utvecklingen av nya versioner av de här programmen ett nödvändigt steg.
Ensidig information och lagstiftningen skapar utmaningar
Något som fortfarande inte är kartlagt är vad konsekvenserna skulle kunna bli av att samla in, analysera och spara inspelningar av människor ute på gatorna. Lagstiftningen kring den här typen av inspelningar är inte fullt utvecklad, vilket lämnar utrymme för osäkerhet.
En annan utmaning som Yun ser är att AI lätt bygger in partiskhet i data som används.
- Förutom att det är en fråga om att ha en representation som ska motsvara verkligheten, finns det även säkerhetsaspekter kopplade till partiskhet i data. Det kan uppstå problem om inte alla gruppers behov kommer med när man bygger ett säkert stads-och fordonsassistentsystem, säger hon.
Vilken är den mest intressanta delen av AI inom bilindustrin?
- Jag tycker att det är fantastiskt att tekniken utvecklas så snabbt. Det finns så många människor numera som arbetar med kombinationen AI och fordon och det går verkligen framåt, säger Yu.
Av Agnes Ekstrand och Camilla Jara