Elisabet Lobo-Vesga, doktorand vid avdelningen Informationssäkerhet, institutionen för Data- och informationsteknik.
​Elisabet Lobo-Vesga, doktorand vid avdelningen Informationssäkerhet, institutionen för Data- och informationsteknik, vann andrarpris i ACM Student Research Competition 2019.

Doktorand prisas för lösning som skyddar integriteten

​Ett nytt programmeringsspråk som gör det enkelt att ta hänsyn till integriteten, det var Elisabet Lobo-Vesgas bidrag till ACM:s studenttävling på POPL 2019-konferensen i Cascais, Portugal. Som en av finalisterna fick hon presentera sin forskning på konferensen, och kom även på andra plats i tävlingen.

– När vi presenterade forskningen fick jag känslan av att det här var något folk hade väntat på. Så jag hoppas det här blir något som bidra till forskningsgemenskapen, säger Elisabet Lobo–Vesga, doktorand vid avdelningen Informationssäkerhet, institutionen för Data– och informationsteknik.

–Folk blir mer och mer angelägna om att skydda sin integritet. Det gör att företag försöker hitta olika typer av sätt för att skydda användarnas integritet när man analyserar sin data.

En del av lösningen är ett koncept kallat differential privacy. Det är en metod för att skydda integriteten genom att ändra svaret från en databas lite när man begär data från den.

– Svaret är mindre exakt än den faktiska datan, förklarar Elisabet. Låt säga att vi har en databas med personlig information och vill veta hur många personer som petar sig i näsan. I datan finns information om att Alice, Bob och Charlie gör det, så svaret borde vara tre personer. Men vi vill inte avslöja de, hur ska vi skydda deras integritet? Det vi vill, är att svaret är så nära som möjligt det som hade varit svaret om en av dem inte fanns i databasen. Vi kan göra det genom att slumpmässigt lägga till –1, 0 eller 1 till svaret. På så sätt kan vi, med viss säkerhet, undvika att en angripare som ser svaret kan lista ut att just Bob var en av dem som petade näsan. Det är differential privacy. Men i verkligheten så är ändringen av svaret lite mer komplext.

Efterfrågad exakthet

Elisabet Lobo–Vesga har skapat ett programmeringsspråk som låter icke–experter på integritet att skapa algoritmer som ändå bevarar integriteten.

Differential privacy är en stark mekanik som används av företag som Amazon och Google. Baksidan är att det är svårt att veta hur exakt information är i ett svar från en databas.

– Vårt programmeringsspråk gör det möjligt att också få ett hum om du kan lita på information. Det kommer att visa felmarginalen så att du vet om svaret kan publiceras eller om det bara är nonsens.

För en enskild variabel är det lätt att avgöra exaktheten med matematiska formler. Svårigheten uppstår när man vill kombinera eller beräkna flera variabler, vilket är vanligt när man analyserar data.

– Att veta exaktheten av en slumpmässig variabel är lättare än att veta exaktheten av en beräkning av flera slumpmässiga variabler. Det som är viktigt att hålla reda på är om variablerna är beroende av varandra eller inte, eftersom man behöver hantera de olika. För att hålla reda på beroendena har vi skickat med en markör med varje fråga till databasen, då ser vi var informationen kommer ifrån och på det sättet vet vi hur vi ska hantera variabeln.

Elisabet och hennes kollegor är nu i full fart med att göra de slutgiltiga testerna för implementeringen a programmeringsspråket.

– Jag tror att i samtliga fall där man använder differential privacy så kan det här bli användbart.

En belönande erfarenhet

Att presentera på konferensen har stärkt Elisabet i att hennes forskning är relevant och har även gett henne värdefull feedback.

– Folk var vänliga och väldigt intresserade av min forskning. Det var fantastiskt att se att folk bryr sig om vad man gör. Jag fick bra feedback och insåg vilka problem som skulle kunde uppkomma, så jag nu har jag börjat hitta lösningar på de problemen.

Arton doktorander deltog i ACM Student Research Competition genom att skicka in affischer som förklarade deras forskning. De tre bästa studenterna fick presentera sin forskning för en jurypanel och konferensdeltagare, och belönas med priser bestående av 500, 300 eller 200 USD. 

Poster-DPella.pdfSe den prisvinnande affischen (pdf)


Publicerad: må 11 feb 2019.