Informacija in kodi

Visokošolski učitelji: Dobrišek Simon
Število kreditnih točk: 6
Semester izvajanja: poletni
Koda predmeta: 64207



Opis predmeta

Pogoji za vključitev v delo oz. za opravljanje študijskih obveznosti:

  • Zaključen dodiplomski študij na področju elektrotehnike ali sorodnih tehniških oziroma naravoslovno-matematičnih ved.
  • Vpis v 1. letnik podiplomskega študijskega programa II. stopnje Elektrotehnika.
  • Osnovno poznavanje matematične analize, linearne algebre, verjetnostne teorije in računalniškega programiranja

Vsebina:

  • Uvod: definicija informacije, koda, kodiranja in komunikacijskega sistema.
  • Entropija: diskretni naključni sistemi, entropija diskretne naključnih spremenljivk, entropija zveznih naključnih spremenljivk.
  • Informacija: povprečna lastna informacija, povprečna medsebojna informacija diskretnih spremenljivk, povprečna medsebojna informacija zveznih spremenljivk.
  • Diskretni viri informacije: entropija stacionarnega vira, ergodični stacionarni viri, vir brez spomina, vir s spominom, odvečnost vira.
  • Kodiranje vira informacije: enakomerni in neenakomerni kodi, Kraft-McMillanova neenačba, Huffmanov kod, aritmetični kod , kod LZW.
  • Tajno kodiranje: kriptografski sistemi s tajnim ključem, kriptografska sistema DES in AES, kriptografski sistemi z javnim ključem, kriptografski sistem RSA, digitalni podpis.
  • Komunikacijski kanali I: zvezni komunikacijski kanali, kapaciteta zveznega kanala, diskretni komunikacijski kanali, kapaciteta diskretnega kanala brez spomina.
  • Komunikacijski kanali II: dekodiranje z odkrivanjem napak, dekodiranje s popravljanjem napak, optimalni postopki dekodiranja, Shannonov izrek o varnem kodiranju, obrat Shannonovega izreka.
  • Varno kodiranje: linearni bločni kodi, ciklični kodi, Hammingov kod, Golayev kod, kodi Reeda in Mullerja, konvolucijski kodi, Viterbijev algoritem, Turbo kod

Cilji in kompetence:

Seznaniti študenta z najpomembnejšimi koncepti in metodami iz teorije informacij, kodiranja vira, kriptografije in kodiranja kanala.

Predvideni študijski rezultati:

  • Znanje in razumevanje: Po zaključku tega predmeta bo študent zmožen izkazati znanje in razumevanje: gradnje matematičnih modelov za opisovanje poglavitnih pojavov v tehničnih komunikacijskih sistemih,mere informacije in ostalih parametrov, ki se uporabljajo za kvantitativno opisovanje komunikacijskih in informacijskih sistemov,kodiranja informacij in kriptografije.
  • Uporaba znanja: Pridobljeno znanje bo študent lahko uporabil pri gradnji kodirnikov informacije in elektronskem poslovanju ter uporabi digitalnih potrdil pri preverjanju istovetnosti oseb in šifriranju sporočil. Študent bo zmožen kritično ovrednotiti skladnost med pridobljenim znanjem ter uporabo konceptov iz teorije informacij in metod kodiranja vira, kriptografije na področjih telekomunikacij, avtomatike in kibernetike.
  • Prenosljive spretnosti: uporabe literature ter drugih virov s področja teorije informacij in kodiranja,uporaba računalniških razvojnih orodij in okolij za programiranje (pisanje programov v enem od programskih jezikov C/C++, C#, Java, Python ali z uporabo razvojnega okolja MatLab), reševanja problemov: analiza problema, načrtovanje algoritma, implementacija programa in testiranje programa, dela v skupini: organizacija in vodenje skupine, aktivno sodelovanje v skupini.

Metode poučevanja in učenja:

  • predavanja,
  • laboratorijske vaje in projekti,
  • reševanje domačih nalog.





Gradiva

Temeljni literatura in viri:

  1. N. Pavešić: Informacija in kodi, (druga izdaja), Založba FE in FRI, 2010.
  2. T. M. Cover, J. A. Thomas: Elements of Information Theory, Wiley-Interscience, New York, 2006.
  3. Roberto Togneri, Christopher J. S. deSilva: Fundamentals of information Theory and Coding Design, Chapman & Hall / CRC, 2002.
  4. Douglas R. Stinson: Cryptography, Theory and Practice, Chapman & Hall / CRC, 2002.



Študiji na katerih se predmet izvaja

  • 1 letnik - 2. stopnja - Elektrotehnika - Avtomatika in informatika