Int Real Variablen

Hi,

ich habe folgendes Problem

ich habe folgende zahlen
INT zahl =824036929
REAL ZahlR

bei
ZahlR=Zahl

bekomme ich allerding
ZahlR=824036900

das finde ich etwas verwirrend. woran kann das liegen?

ich will folgendes implementieren: berechnung modulo (division mit rest)

DEFFCT INT MOD (Zahl:in, ModZahl:in )


DECL INT Zahl, ModZahl, MOR, Rest ;MOR=Modulo ohne Rest
DECL REAL ZahlR


ZahlR=Zahl
MOR=Zahl/ModZahl
Rest=((ZahlR/ModZahl)-MOR)*ModZahl


RETURN rest


ENDFCT

Robbi ist ein KR3 mit KRC 2, KRL 5.2.12

Gruß Thoms

Zitat

Es gibt auf jedem Rechner für bestimmte Datenformate bestimmte zulässige Datenbereiche, d.h. zur Darstellung der Zahlen steht nur eine gewisse Anzahl an Bits zur Verfügung. Soweit ich weiss sind intern die Reals etwa single precision floats (auf 32Bit-Systemen) und die reichen eben nicht um deine Zahl darzustellen.

Hi,

also ich glaube daran kann es eigentlich nicht liegen, denn laut Handbuch (Programmierhandbuch expert v 5.2) gehen
INT bis (2^31)-1 = ca. 2,2*10^9
und
REAL bis 3.4*10^38

Allerdings hab ichs vorhin mal mit ner kleineren Zahl ausprobiert (x*10^5) und da hat es Funktionert.. aber laut dem angegeben Wertebereich.. Ich mein von 10^9 auf 10^38 ist schon noch ein stück Platz....

Ich versuch einfach mal die höchstwertigen 3 oder 4 Bits der Intergervariablen mit 0 zu maskieren und guck was da raus kommt.

Aber wenn jemand noch ne Idee hat dann wäre ich für die Hilfe sehr dankbar!

Gruß thoms

Hi,

also das ZahlR=Zahl geht bis 9 999 999
ab Zahl = 10 000 001
wird ZahlR wieder 10 000 000

Gruß Thoms

Hallo nochmal,

also es stimmt offenbar doch (entschuldige die Zweifel) aber die Präzision auf 1er ist bei 32 bit Systemen nach IEEE mit 8bit exp und 23bit mantisse offanbar nur bis 1.6777215*10^7 möglich.

Ärgerlich!!!
Bedeutet für meinen Zufallsgenerator dass ich die letzten 8 Bit der Integervariable (SIGNAL oZufall2 $OUT[544] to $OUT[575]) also $OUT [568] bis $OUT [575] mit 0 maskieren muss.

Danke für die Hilfe!
Gruß Thoms