Redes de telecomunicações

Disponível somente no TrabalhosFeitos
  • Páginas : 116 (28838 palavras )
  • Download(s) : 0
  • Publicado : 5 de outubro de 2011
Ler documento completo
Amostra do texto
Elementos de Teoria da Informa¸˜o ca

M´rio A. T. Figueiredo a

Departamento de Engenharia Electrot´cnica e de Computadores e Instituto Superior T´cnico e 1049-001 Lisboa Portugal

Vers˜o 1.5 a

Novembro de 2007

2

Conte´do u
1 Introdu¸˜o ` Teoria da Informa¸˜o ca a ca 1.1 Fontes de Informa¸˜o sem Mem´ria . . . . . . . . . . . . . . . . . . ca o 1.2 Medida de Informa¸˜o: aEntropia . . . . . . . . . . . . . . . . . . ca 1.3 Propriedades Elementares da Entropia e Quantidades Relacionadas 1.3.1 Limites Superior e Inferior para a Entropia . . . . . . . . . 1.3.2 Entropia Conjunta . . . . . . . . . . . . . . . . . . . . . . . 1.3.3 Entropia Condicional e Lei de Bayes para Entropias . . . . 1.3.4 Informa¸˜o M´tua . . . . . . . . . . . . . . . . . . . . . . . ca u 1.4Desigualdade da Informa¸˜o . . . . . . . . . . . . . . . . . . . . . . ca 1.5 Corol´rios da Desigualdade da Informa¸˜o . . . . . . . . . . . . . . a ca 1.6 A Desigualdade do Processamento de Dados . . . . . . . . . . . . . 2 Codifica¸˜o de Fontes Discretas Sem Mem´ria ca o 2.1 C´digos . . . . . . . . . . . . . . . . . . . . . . . . . . o 2.1.1 Defini¸˜es e Nota¸˜o . . . . . . . . . . . . . . . co ca 2.1.2C´digos N˜o Singulares . . . . . . . . . . . . . o a 2.1.3 C´digos Univocamente Descodific´veis . . . . . o a 2.1.4 C´digos Instantˆneos . . . . . . . . . . . . . . . o a 2.2 Desigualdade de Kraft-McMillan . . . . . . . . . . . . ´ 2.3 C´digos Ideais e C´digos Optimos . . . . . . . . . . . o o ´ 2.4 Limites para os C´digos Optimos . . . . . . . . . . . . o 2.5 Extens˜es de Fonte . . . . . . . . . . . .. . . . . . . . o 2.6 Codifica¸˜o com Modelo Errado . . . . . . . . . . . . . ca 2.7 Codifica¸˜o de Huffman . . . . . . . . . . . . . . . . . ca 2.7.1 Algoritmo de Huffman . . . . . . . . . . . . . . 2.7.2 Escrita Recursiva do Algoritmo de Huffman . . 2.7.3 Demonstra¸˜o de Optimalidade . . . . . . . . . ca 2.7.4 Algoritmo de Huffman para Alfabetos D-´rios . a 2.8 Codifica¸˜o de Shannon-Fano-Elias . . .. . . . . . . . ca 2.9 Codifica¸˜o Aritm´tica . . . . . . . . . . . . . . . . . . ca e 3 5 5 6 9 10 11 12 14 16 18 19 21 21 21 22 23 24 25 27 30 31 33 33 34 35 37 40 41 47

. . . . . . . . . .

. . . . . . . . . .

. . . . . . . . . .

. . . . . . . . . .

. . . . . . . . . .

. . . . . . . . . .

. . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . .. . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . .

. . . . . . . . . . .. . . . . .

. . . . . . . . . . . . . . . . .

4 3 Fontes Discretas com Mem´ria o 3.1 Processos Estoc´sticos Discretos em Tempo Discreto . . . . a 3.2 Processos Estacion´rios . . . . . . . . . . . . . . . . . . . . a 3.3 Processos de Markov . . . . . . . . . . . . . . . . . . . . . . 3.3.1 Introdu¸˜o . . . . . . . . . . . . . . . . . . . . . . . ca 3.3.2 Processos de Markov Invariantes noTempo . . . . . 3.3.3 Distribui¸˜o dos Estados e Distribui¸˜o Estacion´ria ca ca a 3.4 Taxas de Entropia . . . . . . . . . . . . . . . . . . . . . . . 3.5 Codifica¸˜o de Fontes com Mem´ria . . . . . . . . . . . . . ca o A Demonstra¸˜o do Teorema da M´dia de Ces`ro ca e a

´ CONTEUDO 51 51 52 52 52 53 57 59 62 65

. . . . . . . .

. . . . . . . .

. . . . . . . .

. . . . . . . .

. . . .. . . .

. . . . . . . .

. . . . . . . .

. . . . . . . .

. . . . . . . .

. . . . . . . .

. . . . . . . .

Cap´ ıtulo 1

Introdu¸˜o ` Teoria da Informa¸˜o ca a ca
A teoria da informa¸˜o dedica-se ao estudo de medidas de informa¸ao e suas propriedades ca c˜ e aplica¸˜es, nomeadamente em problemas de telecomunica¸˜es. N˜o se pode afirmar que co co a existe a teoria da...
tracking img