Vraag : ASP/VBScript aftrekkingsprobleem

Ik ben fundamenteel proberend om één waarde van een andere in één of andere serverkant vbscript op een klassieke aspispagina af te trekken, en ik krijg niet de resultaten die I require.

Examples:

309.99-310=-9.99999999999091E-03
9.99-10=-9.99999999999979E-03
1.885-1.884=1.00000000000011E-03

I heeft geprobeerd omzettend de varianten in enig en dubbel formaat voorafgaand aan en na calcualtion, zonder effect. De enige manier die ik gesla erin ben agd om dit ertoe te brengen om correct te werken is in munt om te zetten, maar zeker zou dit niet moeten noodzakelijk zijn. Het houdt enkel geen steek. Zelfs als ik het programma breek en de berekeningen binnen de horlogelijst uitvoer, gebruikend de daadwerkelijke aantallen eerder dan varianten, keert het nog de zelfde resultaten terug, in dubbele hulp format.

Any zeer gewaardeerde .....
zou zijn

Antwoord : ASP/VBScript aftrekkingsprobleem

>>I heeft geprobeerd omzettend de varianten in enig en dubbel formaat voorafgaand aan en na calcualtion, zonder effect. De enige manier die ik gesla erin ben agd om dit ertoe te brengen om correct te werken is in munt om te zetten, maar zeker zou dit niet moeten noodzakelijk zijn. Het houdt enkel geen steek. <>Het maakt eigenlijk al betekenis in de wereld:
Zowel kunnen het enige als formaat en aangezien zulke benaderende numerieke waarden (en die manier is voor minstens de laatste 25 jaar geweest) zijn, zij dubbele van gebruiksIEEE niet alle beschikbare waarden vertegenwoordigen, en zijn ook de reden zij zulk een enorme gamma hebben.
De munt wordt enerzijds in feite opgeslagen als een geheel dat is waarom het altijd nauwkeurig is.  Het is teruggekeerde compensatie door 10000 die het feit verklaart dat het een precisie van 4 decimalen heeft.
Andere oplossingen  
 
programming4us programming4us