CdSINFORMATICA
Codice262AA
CFU6
PeriodoSecondo semestre
LinguaItaliano
| Moduli | Settore/i | Tipo | Ore | Docente/i | |
| TEORIA DELL'INFORMAZIONE | INF/01 | LEZIONI | 48 |
|
Acquisizione dei fondamenti teorici della teoria dell'informazione e delle metodologie e delle tecnologie per la codifica di sorgente di segnali ai fini della riduzione di ridondanza sia senza perdita d'informazione che con perdita controllata. Acquisizione dei fondamenti teorici, delle metodologie e delle tecnologie per la protezione dell'informazione nei confronti di errori, distorsioni e rumori introdotti dai sistemi di comunicazione digitale.
Theoretical foundations of information theory and of methods and tecniques for coding of data sources in order to avoid redundant transmissions and of recovery from errors.
Esame orale
oral exam
Il corso non si pone obiettivi di apprendimento in termini di comportamenti attesi
no special goal in terms of expected behaviour and knowledge acquisition
Conoscenze di base di informatica, calcolo delle probabilità e algebra. Le conoscenze necessarie saranno comunque ripetute durante il corso.
Basic knowledege of computer science, probability and algebra. The needed knowledge will be given again during the course
Salvo diverse indicazioni dovute all'evolvere della epidemia COVID-19, le lezioni avvengono in aula alla presenza del docente. Le attività di apprendimenti comprendono:
- seguire le lezioni
- studio individuale
Non c'è obbligo di presenza alle lezioni
Lezioni frontali.
Classes will be given according to the rules imposed by COVID-19 epidemic. Classes will be given in Italian language.
Elementi di teoria dell’informazione: entropia di una sorgente, entropia relativa. Entropia congiunta e entropia condizionata. Statistica sufficiente. Codifica di sorgente senza perdita di informazione: Codici ottimi. Limiti sulla lunghezza delle parole di codice per i codici ottimi. Diseguaglianza di Kraft per codici univocamente decodificabili. Codificatori di Huffman e di Shannon-Fano-Elias. Codifica di sorgente Universale. Codificatori aritmetici. Codificatore di Lempel-Ziv.
Equivocazione, tasso di informazione mutua, capacità di canale. Capacità dei canali binari simmetrici e dei canali limitati in banda affetti da rumore additivo gaussiano.
Teorema di Shannon sulla codifica di canale. Diseguaglianza di Fano. Teorema della separazione tra codifica di sorgente e la codifica di canale.
Codici lineari a blocco: definizione, matrice generatrice, controlli di parità, codici sistematici Rivelazione e correzione d’errore per codici lineari a blocco. Sindrome. Codice duale di un codice lineari a blocco. Decodificatore ottimo. Rivelazione e correzione d’errore per canali binari simmetrici. Schieramento standard. Prestazioni. Campi di Galois: definizioni e proprietà. Codici ciclici. Codici di Hamming. Codici di Reed-Solomon.
Codici convoluzionali.
Turbocodici: cenni.
Entropy and its definition. Discrete sources. Coding without noise. Memoryless discrete channel. Error correcting codes. Cyclic codes.
- Appunti di Teoria dell’Informazione , Pietro Piram e Francesco Romani Versione 2.5, Gennaio 2007
e altro materiale, il tutto fornito dal docente
- Appunti di teoria dell'informazione, by P. Piram and F. Romani
- Copy of slides
All the material is in italian language, and will be given to the students by the teacher
No special rules
Esame orale
Oral exam