Massimo errore relativo

Messaggioda nereide » 03/06/2017, 10:55

Sto studiando qual è il massimo errore relativo che si commette approssimando un dato reale con la sua rappresentazione floating point normalizzata a precisione finita. Il libro dice che la differenza in valore assoluto tra il dato e la sua rappresentazione, nel caso di arrotondamento, è al più b^(-t)/2 dove b è la base del sistema aritmetico e t la sua precisione. Non capisco il perché di questa conclusione , qualcuno può aiutarmi ?
nereide
Average Member
Average Member
 
Messaggio: 207 di 534
Iscritto il: 20/08/2014, 21:34

Torna a Analisi Numerica e Ricerca Operativa

Chi c’è in linea

Visitano il forum: Nessuno e 1 ospite