openoffice-users-de mailing list archives

Site index · List index
Message view « Date » · « Thread »
Top « Date » · « Thread »
From RA Stehmann <anw...@rechtsanwalt-stehmann.de>
Subject Re: Falschrechner
Date Fri, 13 Nov 2015 08:16:45 GMT
Hallo,

binär zu dezimal und umgekehrt führt in der Tat zu Fehlern. Hierfür gibt
es ein berüchtigtes Beispiel:

Python 3.2.3 (default, Feb 20 2013, 17:02:41)
[GCC 4.7.2] on linux2
Type "help", "copyright", "credits" or "license" for more information.
>>> 0.3+0.6
0.8999999999999999
>>> (0.3*10+0.6*10)/10
0.9
>>>

(Neuere Python-Versionen haben diesen Fehler auch noch.)

Wie man sieht kann Python3 mit einem Trick durchaus genau rechnen.

Am problematischsten ist wohl der Umstand, dass Python
0.8999999999999999 von 0.9 sehr wohl unterscheidet:

>>> 0.3+0.6 == (0.3*10+0.6*10)/10
False
>>>

Traut keinem Computer ungeprüft!

Gruß
Michael






Mime
View raw message