Fråga : ASP-/VBScriptsubtraktionsproblem

I stort pröva förmiddag I att subtrahera en värderar från another i någon vbscript för serversida på en klassikerasp-sida och I-förmiddagen som inte får resultaten som I require.

Examples:

309.99-310=-9.99999999999091E-03
9.99-10=-9.99999999999979E-03
1.885-1.884=1.00000000000011E-03

I har försökt att konvertera variantsna till singeln, och dubblett formaterar före, och efter calcualtionen, med inget verkställa. Det enda långt har jag klarat av för att få denna för att fungera korrekt ska konvertera till valuta, men säkert denna bör inte vara nödvändig. Den gör precis ingen avkänning. Om även jag bryter programet och utför beräkningarna inom klockan listar, using det faktiskt numrerar ganska, än variants, det stilla retur de samma resultaten, i skulle dubbel hjälp för format.

Any är väldeliga uppskattade .....
" klar "

Svar : ASP-/VBScriptsubtraktionsproblem

>>I har försökt att konvertera variantsna till singeln, och dubblett formaterar före, och efter calcualtionen, med inget verkställa. Det enda långt har jag klarat av för att få denna för att fungera korrekt ska konvertera till valuta, men säkert denna bör inte vara nödvändig. Den gör precis ingen avkänning. <>Den gör faktiskt alla avkänning i världen:
Både singeln och dubblettbruk IEEE formaterar och som sådan, är ungefärligt numeriskt värderar (och har varit ditåt för åtminstone jumbon 25 år), dem kan inte föreställa alla värderar tillgängligt och är också resonera som de har ett sådan vast att spänna.
Valuta är å ena sidan i faktumet som lagras som ett heltal som är varför det är avkräver alltid.  Det är gången tillbaka offset vid 10000 som förklarar faktumet att den har en precision av 4 decimaler.
Andra lösningar  
 
programming4us programming4us