Information theory and coding [ LINGI2348 ]

> https://icampus.uclouvain.be/claroline/course/index.php?cid=INGI2620

• Représentation de l'information: codage décorrélatif et codage entropique.
• Sécurisation de l'information: codage cryptographique.
• Correction de l'information: théorie du codage de canal, et codes correcteurs d'erreur.

Eu égard au référentiel AA du programme « Master ingénieur civil en informatique », ce cours contribue au développement, à l'acquisition et à l'évaluation des acquis d'apprentissage suivants :

• INFO1.1-3
• INFO2.2
• INFO5.2
• INFO6.4

Eu égard au référentiel AA du programme « Master [120] en sciences informatiques », ce cours contribue au développement, à l'acquisition et à l'évaluation des acquis d'apprentissage suivants :

• SINF1.M1
• SINF2.2
• SINF5.2
• SINF6.4

Les étudiants ayant suivi avec fruit ce cours seront capables de

• exposer les notions, les méthodes et les résultats qui servent à l'analyse et à la conception des systèmes de représentation, de protection et de correction de l'information.
• présenter non seulement les résultats généraux qui délimitent les possibilités offertes par la "théorie de l'information", mais aussi les méthodes effectives de compression, de sécurisation et de correction.
• fournir des outils en vue de l'ingénierie des systèmes de codage de l'information multimédia (images, son, données).

Examen écrit portant tant sur la théorie que sur les exercices.

Le cours consiste en des cours magistraux et en des séances d'apprentissage par exercice permettant d'approfondir les différentes facettes de la théorie.

• Notions de base en théorie de l'information; information mutuelle et entropie.
• Codage des sources discrètes par des codes de longueur fixe et par des codes de longueur variable.
• Notions de codage décorrélatif et de gain de codage.
• Notions de base en cryptologie; systèmes de codage cryptographique à clé secrète et à clé publique.
• Canal sans mémoire à temps discret; notion de capacité; théorème de codage pour un canal bruyant.
• Théorie générale des codes en bloc; rôle de la distance minimale.
• Codes linéaires: matrice génératrice et matrice de parité; décodage par syndrome.
• Etude de certaines familles de codes linéaires (en bloc): les codes cycliques et les codes de Reed-Solomon.
• Aperçu des codes convolutionnels.

• R.G. Gallager, "Information Theory and Reliable Communication" , John Wiley, 1968.
• F.J. MacWilliams and N.J.A. Sloane, "The Theory of Error-Correcting Codes" , North-Holland, 1977.

Préalables:

• LFSAB1402 : bases solides en informatique
• LFSAB1103 : bases solides en mathématique