Détails et horaire du cours
Légende
Cours de jour
Cours de soir
Cours en ligne
Certificats et microprogrammes de 1er cycle
Baccalauréat (formation d'ingénieur)
Études supérieures
ELE6702
Théorie de l'information
Nombre de crédits :
3 (3 - 0 - 6)
Les chiffres indiqués entre parenthèses sous le sigle du cours, par exemple (3 - 2 - 4), constituent le triplet horaire.
Le premier chiffre est le nombre d'heures de cours théorique par semaine (les périodes de cours durent 50 minutes).
Le second chiffre est le nombre d'heures de travaux dirigés (exercices) ou laboratoire, par semaine.
(Note : certains cours ont un triplet (3 - 1.5 - 4.5). Dans ce cas, les 1,5 heure par semaine sont des laboratoires qui durent 3 heures mais qui ont lieu toutes les deux semaines. À Polytechnique, on parle alors de laboratoires bi-hebdomadaires).
Le troisième chiffre est un nombre d'heures estimé que l'étudiant doit investir de façon personnelle par semaine pour réussir son cours.
Département :
Génie électrique
Corequis :
Notes :
Responsable(s) :
À venir
Description
Définitions et paramètres mathématiques associés à la caractérisation de l'information : entropie, information mutuelle dans le cas discret et continu. Encodage des sources discrètes sans mémoire, deux théorèmes de Shannon, inégalité de Kraft-Szilard et théorème de MacMillan. Codes optimaux de Huffman. Introduction à l'encodage universel et aux techniques dérivées de l'algorithme de Ziv-Lempel. Voies discrètes de transmission et leur capacité, réciproque faible du théorème de codage de canal de Shannon. Codage en bloc aléatoire et bornes d'erreurs asymptotiques correspondantes. Démonstration du codage de canal de Shannon et ses implications. Éléments de codage de canal, codes en bloc et convolutionnels.
