Calcolo numerico: arrotondamento di un numero non di macchina (p>t) da parte del calcolatore

da **Bertucciamaldestra** » 10/04/2017, 17:05

Buonasera!
Mi scuso se sono off topic ma non ho trovato nessuna sezione per il calcolo numerico...
Vorrei sapere se il seguente arrotondamento della mantissa, con $t=3$ e $N=10$ da $.1585432$ a $.159$ è corretto, perchè secondo la tecnica "rounding to even" non dovrebbe essere $.158$ essendo 8 pari? O il discorso cifra pari/dispari vale solo se dopo il 5 ci son solo zeri?
Grazie mille

da **apatriarca** » 10/04/2017, 18:00

Il discorso pari/dispari ha importanza solo se si è esattamente a metà tra due valori consecutivi. Se c'è un singolo valore più vicino degli altri devi muoverti verso quel valore.

da **Bertucciamaldestra** » 10/04/2017, 20:02

apatriarca ha scritto:Il discorso pari/dispari ha importanza solo se si è esattamente a metà tra due valori consecutivi. Se c'è un singolo valore più vicino degli altri devi muoverti verso quel valore.

Grazie mille!! :-D

Calcolo numerico: arrotondamento di un numero non di macchina (p>t) da parte del calcolatore

Calcolo numerico: arrotondamento di un numero non di macchina (p>t) da parte del calcolatore

Re: Calcolo numerico: arrotondamento di un numero non di macchina (p>t) da parte del calcolatore

Re: Calcolo numerico: arrotondamento di un numero non di macchina (p>t) da parte del calcolatore

Chi c’è in linea