BC , bin ich etwa zu dumm ???

10^5 = 100.000

wie rede ich BC dazu auch negative exponente zu berechnen ?

d.h.
10 hoch minus 5

wenn ich 10^-5 eingebe wird 0 ausgegeben, was allerdings nicht stimmt.

mfg

 

Ohne Scale rechnet er auch richtig. (:

# Nein, ich meinte schon genau das, was ich schrieb.
1/10^-1 = 1/0
Ist doch alles korrekt.

# 10^-1 = 0,1, er rundet es ab auf 0
Er teilt einfach ganzzahlig und mit scale > 0 schneidet er ab. Runden wäre komisch ...

Und sobald man weiß, daß er per default ganzzahlig rechnet, kann man auch mein erstes Post vergessen. Nix mit eindeutig Fehler, alles bestens.

 

Nein, ich meinte schon genau das, was ich schrieb.
Anderes Beispiel:

1/(10^-1)
Runtime error (func=(main), adr=9): Divide by zero


10^-1 = 0,1, er rundet es ab auf 0 und teilt dann 1 durch 0.

Mit scale Rechnet er richtig:

scale=10; 1/(10^-1)
10.0000000000

 

@Bio-logisch:
Du meinst vermutlich (1/10)^-1. Dann ist DivByZero korrekt.
1/10 = 0
0^-1 = 1/0

@RapMaster:
Besser als nix:
scale=10; 10^-5
.0000100000

 

schade...

 

Ich hab noch mal etwas rumgespielt:

1/10^-1
Runtime error (func=(main), adr=9): Divide by zero (Obwohl es nach adam riese ja wieder 10 ist)

Er weigert sich also tatsächlich mit Nachkommastellen zu rechnen.

 

1/10^5

Aber da kommt auch null raus:
Er rundet immer auf ganze Zahlen.

Bei 1/10^0 gibt er korrekt 1 aus.

Keine Ahnung, wie man das abstellen kann.

 

nein ich will den rechenvorgang haben

 

0,00001

 

wie heißt es eigentlich richtig?

 

Tja, wohl ziemlich eindeutig ein Fehler.