Seite 1 von 1

fx-991 ES Problem bei Kürzen/Falsche Ergebnisse

BeitragVerfasst: Fr 7. Mai 2010, 13:23
von keingenie
Hallo!

Ich habe auf der Suche nach Hilfe für ein Problem meinen Taschenrechner betreffend das Forum hier gefunden und mir gedacht
"Super, wer hätte gedacht, dass es ein Casio Taschenrechner-Forum gibt". :-)

Also ich habe ein Problem und würde gerne wissen, ob man das irgendwie umgehen oder beheben kann.

Bild

Bei Beispielsweise dieser Rechnung kommt kein richtiges oder wenigstens annähernd richtiges Ergebnis raus. Ich habe auch schon die Rechenschritte komplett einzeln eingegeben, aber sobald ich 1 Minus 8,525x10^-15 rechne, gibt er mir als Zwischenergebnis direkt 1 aus, was nicht richtig ist. Jedenfalls ist es für die weitere Rechnung völlig unbrauchbar.
Hat jemand bis auf Kopfrechnen einen Rat für mich? Wäre für jede Hilfe dankbar.
Wenn es nicht geht, werde ich eben auf den guten alten Kopf zurückgreifen müssen.


Gruß
David

Re: fx-991 ES Problem bei Kürzen/Falsche Ergebnisse

BeitragVerfasst: Sa 8. Mai 2010, 12:34
von elias.koegel
Taschenrechner rechnen allgemein nur mit einer technisch festgelegten Genauigkeit (TRs mit CAS ausgenommen). Mein GTR zum Beispiel rechnet mit 15 Stellen Genauigkeit, davon zeigt er bis zu 10 Stelle an. Das ist für nahezu alle Fälle ausreichend.

Nun zu dem von dir geschilderten Fall:
27.7 / 3 * 10^8 = 9.233... * 10^-8
(9.233... * 10^-8) ^ 2 = 8.5254... * 10^-15
1 - 8.5254... * 10^-15 = 0,9999999999999...

Selbst wenn ich jetzt annehme, dass die nächste Stelle eine 0 ist (also der größte mögliche Fehler), beträgt der Fehler trotzdem gerade mal 0,00000001% (!). Das ist so ein kleiner Fehler, dass er allgemein in der Technik vernachlässigt wird. Nehmen wir an, dass der TR mit 12 Stellen Genauigkeit rechnet. Dann rundet er mithilfe der 13. Stelle und das ergibt 1. Also wird für die weitere Rechnung mit 1 weitergerechnet.

sqrt(1) = 1
100 / 1 = 100

Mich würde interessieren, wieso du genau das rechnen musst. Ich kann mir keine Anwendung für eine solche Formel vorstellen. Vielleicht kann man ja auch in einer anderen Reihnfolge rechnen, um den Fehler zu umgehen. Aber dazu müsstest du mal etwas mehr dazu sagen, was da eigentlich gerechnet wird. Wenn ich das mal versuche nachzuvollziehen, kommt ja ein Ergebnis in etwa dieser Form raus: 100,000000000000000xxx... (x steht für irgendeine Zahl) Was will man mit sowas anfangen???? Das würde doch jeder normale Mensch auf 100 runden. Ohne die genaue Aufgabe zu kennen, vermute ich eher einen Fehler in der Formel.