calculo numerico

Conversão

Representação

Análise de erros

Cancelamento numérico

Erros em computações numéricas
Sérgio Galdino1

2

1 POLI-UPE

Escola Politécnica
Universidade de Pernambuco
2 UNICAP
Universidade Católica de Pernambuco

Disciplinas: (1)Cálculo Numérico - (2)Cálculo Numérico
Computacional

Conversão

Representação

Análise de erros

Cancelamento numérico

Sumário - Erros em computações numéricas
1

2

Conversão
Conversão: Decimal −→ Binário
Conversão: Decimal −→ Ternário
Conversão: Decimal −→ hexadecimal
Símbolos Hexadecimais
Roteiro Scilab: conversão de inteiros na base 10 para base qualquer
Roteiro Scilab: conversão de fracionários na base 10 para base qualquer
Roteiro Scilab: conversão de um número na base 10 para base qualquer
Conversão de uma base qualquer para base 10
Representação
Representação de um número inteiro
Representação de um número real
Aritmética do ponto-flutuante

Conversão

Representação

Análise de erros

Cancelamento numérico

Conversão: Decimal −→ Binário

Convertendo o número decimal 261, 359 para a representação binária. Conversão: Decimal para binário
Inteiro: Divisão sucessiva do número decimal por 2
261
1

2
130 2
0
65 2
1 32 2
0 16 2
0 8 2
0 4 2
0 2
0

2
1

O número inteiro binário é obtido através dos restos das divisões escritos na ordem inversa da sua obtenção. Então
26110 = 1.0000.01012 .

Conversão

Representação

Análise de erros

Cancelamento numérico

Conversão: Decimal −→ Binário

Convertendo o número decimal 261, 359 para a representação binária. Fração: Multiplicação sucessiva da fração decimal por 2
Multiplicação
0,359x2 = 0,718
0,718x2 = 1,436
0,436x2 = 0,872
0,872x2 = 1,774
0,774x2 = 1,488
0,488x2 = 0,976
0,976x2 = 1,952
0,952x2 = 1,904
0,904x2 = 1,808
..
.. ..
.
. .

Sobra
0
1
0
1
1
0
1
1
1
..
.

A fração binária é obtida através das sobras, parte inteira, das multiplicações escritas na