openoffice-users-de mailing list archives

Site index · List index
Message view « Date » · « Thread »
Top « Date » · « Thread »
From Alois Klotz <alois.kl...@salzburg.at>
Subject Re: Falschrechner
Date Thu, 12 Nov 2015 19:52:39 GMT
Hallo,
das ist nicht nur in Calc so, sondern das Problem tritt auch in 
Programmiersprachen auf.
Man kann daher vernünftigerweise nie zwei berechnete Werte auf 
Gleichheit direkt überprüfen, sondern man muss sie vorher runden oder 
beim Vergleich eine minimale Abweichung akzeptieren - also wenn 
Absolutwert(VarA - VarB) < z.B. 0,00001 dann als gleich werten.
MfG Alois
-- 
www.easy4me.info

technik schrieb am 12.11.2015 um 15:58:
> Hallo,
>
> ich habe schon wieder so einen dummen Fehler, wo das Programm 
> anscheinend falsch rechnet.
> a+b-c=d aber dann ist d<>d; Abweichung 10E-13 aber für die Überprüfung 
> ergibt das eben ein Falsch.
>
> Kommt das bei Euch auch raus oder rechnet mein Rechner falsch?
>
> Gibt es keine Möglichkeit solche Fehler zu vermeiden, wenn man 
> =(A7=48,55) rechnet?
> Wäre einfacher als =(A7-48,55)<0,001 oder gar =ABS(A7-48,55)<0,001
> Ich weiß, dass es wohl ein Problem der Fließkommarundung ist, aber 
> trotzdem ist da irgendetwas schief, wenn der Rundungsfehler von 10E-13 
> bei zwei Nachkommastellen nicht abgefangen wird.
>
> 48,55
> -7,25E-013
>
>
> 510,46     +
> 22082,64     +
> 22544,55     -
> 48,55     =SUM
> -7,24753590475302E-013     =Sum-48,55
>
>
>
> Formel in a6: =A4+A5-A6
>
> Oder die Datei
> https://www.dropbox.com/s/pf372p4oo0rrf4s/falschrechner.ods?dl=0
>
>
>
> Horst
>


Mime
  • Unnamed multipart/alternative (inline, None, 0 bytes)
View raw message