[Översättning saknas: page.coursepage.titleprefix] Djup maskininlärning

[Översättning saknas: page.coursepage.adopteddate] 2019-02-14 [Översättning saknas: page.coursepage.adoptedby].

[Översättning saknas: page.coursepage.overview]

  • [Översättning saknas: page.coursepage.namealt]Deep machine learning
  • [Översättning saknas: page.coursepage.coursecode]SSY340
  • [Översättning saknas: page.coursepage.credit]7,5 Högskolepoäng
  • [Översättning saknas: page.coursepage.owner]MPSYS
  • [Översättning saknas: page.coursepage.edulevel]Avancerad nivå
  • [Översättning saknas: page.coursepage.mainsubjects]Automation och mekatronik, Datateknik, Elektroteknik, Informationsteknik, Medicinteknik
  • [Översättning saknas: page.coursepage.dept]ELEKTROTEKNIK
  • [Översättning saknas: page.coursepage.grading]TH - Fem, Fyra, Tre, Underkänd

[Översättning saknas: page.coursepage.courseround] 1

  • [Översättning saknas: page.coursepage.teachlang] [Översättning saknas: general.acronyms.en]
  • [Översättning saknas: page.coursepage.applcode] 35124
  • [Översättning saknas: page.coursepage.maxamount]140
  • [Översättning saknas: page.coursepage.blockschedule]
  • [Översättning saknas: page.coursepage.erasmus]Nej

[Översättning saknas: page.coursepage.modules]

0117 Projekt 3 hp
[Översättning saknas: page.coursepage.grading]: TH
3 hp0 hp0 hp0 hp0 hp0 hp
0217 Inlämningsuppgift 4,5 hp
[Översättning saknas: page.coursepage.grading]: TH
4,5 hp0 hp0 hp0 hp0 hp0 hp

[Översättning saknas: page.coursepage.inprogrammes]

[Översättning saknas: page.coursepage.examinator]

[Översättning saknas: page.coursepage.tocoursepage] ([Översättning saknas: general.aria.newtab])

[Översättning saknas: page.coursepage.genentryreq]

[Översättning saknas: page.coursepage.informationmissing]

[Översättning saknas: page.coursepage.specentryreq]

För kurser på avancerad nivå gäller samma grundläggande och särskilda behörighetskrav som till det kursägande programmet. (När kursen är på avancerad nivå men ägs av ett grundnivåprogram gäller dock tillträdeskrav för avancerad nivå.)
Undantag från tillträdeskraven: Sökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.

[Översättning saknas: page.coursepage.prerequisites]

För att gå kursen krävs goda kunskaper inom sannolikhetslära, linjär algebra och programmering. Det är även önskvärt att ha grundläggande färdigheter inom statistik och lärande, motsvarande exempelvis ESS101 - Modellering och simulering, SSY230 - Systemidentifiering eller TDA231 - Algoritmer för maskininlärning och slutledning men det är inte ett strikt krav.

[Översättning saknas: page.coursepage.purpose]

Syftet med kursen är att ge en detaljerad introduktion till djup maskininlärning. De senaste åren har djupa neuronnät dramatiskt förbättrat prestandan inom en rad olika områden inklusive talförståelse, datorseende och maskinöversättning. Vi fokuserar främst på de grundläggande principerna för hur djupa nätverk är uppbyggda och hur de tränas, men vi går även igenom en rad tekniker som är centrala i olika tillämpningar. Vår huvudsakliga målsättning är att ge en god förståelse för varför och när djup maskininlärning är användbart, kombinerat med förmågan att tillämpa dem i olika praktiska sammanhang.

[Översättning saknas: page.coursepage.goal]

Efter avslutad kurs ska studenterna kunna

  • förklara de fundamentala principerna inom övervakat (och oövervakat) lärande, inklusive grundläggande tekniker som korsvalidering för att undvika överträning
  • beskriva de kostnadsfunktioner som typiskt optimeras inom övervakat lärande (i första hand korsentropin) och de vanligaste optimeringsmetoderna (bakåtpropagering av gradienter, mm). 
  • förklara hur de traditionella framåtriktade nätverken är uppbyggda och varför de kan approximera ¿nästan¿ alla funktioner
  • förstå svårigheterna med försvinnande gradienter och moderna verktyg för att motverka det problemet (som exempelvis ¿batch normalisation¿ och residuala nätverk)
  • sammanfatta de huvudsakliga komponenterna i faltande nueronnät och deras huvudsakliga fördelar
  • beskriva vanliga typer av återkommande neuronnät (recurrent neural networks) och var de typiskt används till
  • ge en översikt av ett antal av de många moderna sorters djupa nätverk som utvecklats de senaste åren
  • argumentera för fördelarna med generativa modeller, ¿transfer learning¿ och utökning av (augmenting) dataseten, då vi har en begränsad mängd annoterade dataexempel
  • förklara vad Markovbeslutsproblem och ¿reinforcement learning¿ (RL) är
  • använda djupa nätverk för att lösa RL-problem, exempelvis med hjälp av deep q-learning
  • träna och applicera faltande nätverk (CNN) för bilder, samt återkommande nätverk (RNN) för tillämpningar med tidsserier
  • utnyttja ett lämpligt mjukvarubibliotek designat för djupa neuronnät (som exempelvis TensorFlow eller Torch) för att lösa problem inom ett antal olika praktiska tillämpningar

[Översättning saknas: page.coursepage.content]

  • övervakat lärande genom att minimera korsentropin och med hjälp av korsvalidering
  • stokastisk gradientsökningar, bakåtpropagering samt ett antal moderna metoder för snabbare optimering
  • programmeringsspråk för att implementera djupa neuronnät
  • framåtriktade neuronnät och faltande nätverk
  • återkommande (recurrent) neuronnät, och framför allt nätverk av typen "long short term memory"
  • "transfer learning" och data-augmentering
  • "reinforcement learning" (RL), Markovbeslutsproblem, q-lärande och djupt q-lärande
  • tillämpningar av exempelvis faltande nätverk på bilder och RL på beslutsproblem

[Översättning saknas: page.coursepage.organization]

Kursen innehåller webbföreläsningar (som bör ses innan lektionen), övningstillfällen (där vi går igenom material från motsvarande föreläsning), hemuppgifter, projekt och redovisningstillfällen (där vi i första hand går igenom lösningar till hemuppgifter).

[Översättning saknas: page.coursepage.literature]

Vi kommer huvudsakligen att använda boken Ian Goodfellow, Yoshua Bengio och Aaron Courville, Deep Learning, MIT Press, 2016, som finns tillgänglig på webben: http://www.deeplearningbook.org.

[Översättning saknas: page.coursepage.examination]

Det finns ingen skriftlig examen i den här kursen. Studenterna kommer istället utvärderas baserat på hur väl de presterat i de olika aktiviteter som ingår i kursen. Mer specifikt ges betyg baserat på resultaten från hemuppgifter och projekt, samt på hur stor andel av aktiviteterna som studenten deltagit i.