[Översättning saknas: page.coursepage.titleprefix] Informationsteori

[Översättning saknas: page.coursepage.changes]
[Översättning saknas: page.coursepage.seechanges]

[Översättning saknas: page.coursepage.adopteddate] 2021-04-29 [Översättning saknas: page.coursepage.adoptedby].

[Översättning saknas: page.coursepage.overview]

  • [Översättning saknas: page.coursepage.namealt]Information theory, advanced level
  • [Översättning saknas: page.coursepage.coursecode]SSY210
  • [Översättning saknas: page.coursepage.credit]7,5 Högskolepoäng
  • [Översättning saknas: page.coursepage.owner]MPCOM
  • [Översättning saknas: page.coursepage.edulevel]Avancerad nivå
  • [Översättning saknas: page.coursepage.mainsubjects]Elektroteknik
  • [Översättning saknas: page.coursepage.dept]ELEKTROTEKNIK
  • [Översättning saknas: page.coursepage.grading]UG - Godkänd, Underkänd

[Översättning saknas: page.coursepage.courseround] 1

Kurstillfället är inställt. Kurstillfället ges enligt plan vartannat år. För frågor kontakta utbildningssekreteraren för
  • [Översättning saknas: page.coursepage.teachlang] [Översättning saknas: general.acronyms.en]
  • [Översättning saknas: page.coursepage.applcode] 13112
  • [Översättning saknas: page.coursepage.erasmus]Ja

[Översättning saknas: page.coursepage.modules]

0108 Muntlig tentamen 7,5 hp
[Översättning saknas: page.coursepage.grading]: UG		0 hp0 hp0 hp7,5 hp0 hp0 hp

[Översättning saknas: page.coursepage.inprogrammes]

[Översättning saknas: page.coursepage.examinator]

[Översättning saknas: page.coursepage.tocoursepage] ([Översättning saknas: general.aria.newtab])

[Översättning saknas: page.coursepage.genentryreq]

Grundläggande behörighet för avancerad nivå
Sökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.

[Översättning saknas: page.coursepage.specentryreq]

Engelska 6
Sökande med en programregistrering på ett program där kursen ingår i programplanen undantas från ovan krav.

[Översättning saknas: page.coursepage.prerequisites]

Goda förkunskaper i sannolikhet och analys. Kursens svårighetsgrad ligger på doktorandnivå, vilket innebär att den är matematiskt mer avancerad och går i ett snabbare tempo än de flesta masterskurser.

[Översättning saknas: page.coursepage.purpose]

I denna kurs ges en introduktion till informationsteori och dess applikationer inom digital kommunikation, statistik och maskininlärning.

En viktig fördel med ett informationsteoretiskt tillvägagångssätt är dess förmåga att ge fundamentala resultat, det vill säga resultat som kan påvisa att en viss metod är optimal.

Denna sorts resultat är användbara av många skäl. De tillåter oss att, till exempel: avgöra huruvida en önskad felsannolikhet inom informationstransmission är möjlig att uppnå; att beräkna hur många observationer som behövs för att skilja en eller flera statistiska hypoteser åt; och att avgöra hur mycket data som krävs för att träna en maskininlärningsalgoritm.

[Översättning saknas: page.coursepage.goal]

  • Definiera entropi, relativ entropi samt ömsesidig information och förklara deras operationella betydelser
  • Beskriva och visa Shannons källkodnings- och kanalkodningssatser
  • Beräkna kapaciteten hos en diskret kommunikationskanal
  • Beskriva de fundamentala prestandamåtten inom binär hypotesprövning, hur de relaterar till varandra, deras asymptotiska beteende samt det optimala testets struktur
  • Förklara hur relativ entropi kan användas för att karakterisera generaliseringsfel inom statistisk inlärning
  • Applicera Fanos olikhet för att visa omöjlighetsresultat inom grupptestning, grafiskt modellval och gles linjär regression

[Översättning saknas: page.coursepage.content]

  • Shannons informationsmetriker: entropi, relativ entropi (även kallat Kullback-Leibler divergens), ömsesidig information
  • Den asymptotiska ekvipartitionsegenskapen och typikalitet
  • Datakompression och källkodningssatsen
  • Binär hypotesprövning, Neyman-Pearson-lemmat, Steins lemma
  • Generaliseringsfel inom statistisk inlärningsteori och Probably Approximately Correct (PAC)-gränser
  • Minimaxgränser i statistiska estimat och Fanos metod

[Översättning saknas: page.coursepage.organization]

Kursen omfattar cirka 15 föreläsningar och 7 övningstillfällen.

[Översättning saknas: page.coursepage.literature]

[Översättning saknas: page.coursepage.examination]

Obligatoriska inlämningar varje vecka, muntlig examination (godkänd eller icke godkänd), 7.5 hp.

[Översättning saknas: page.coursepage.footnoteexamination]

[Översättning saknas: page.coursepage.changes]

  • Ändring gjord på kurstillfälle:
    • 2021-04-28: Inställd Ändrat till inställd av UOL
      [Kurstillfälle 1] Inställt