|
|
|
|
|
|
|
|
|
|
|
Version 6.0
SET REAL COMPARISON LEVEL (Epsilon)
| Parameter | Typ | Beschreibung | |
| Epsilon | Numerisch |  | Epsilon Wert, um Zahlen miteinander |
| auf Gleichheit zu vergleichen |
Beschreibung
Der Befehl SET REAL COMPARISON LEVEL setzt den Epsilon Wert von 4D, um Werte und Ausdrücke vom Typ Zahl miteinander auf Gleichheit zu vergleichen.
Ein Rechner kann nur annähernde Wert berechnen; das sollte beim Vergleichen von Werten berücksichtigt werden. Beim Vergleichen von Werten vom Typ Zahl kann 4D testen, ob der Unterschied zwischen zwei Werten einen bestimmten Wert nicht überschreitet. Dieser Wert wird Epsilon genannt. Er funktioniert folgendermaßen:
Wir gehen von den beiden Werten a und b vom Typ Zahl aus. Ist Abs(a-b) größer als Epsilon, sind die Werte ungleich; Ist Abs(a-b) kleiner als Epsilon, sind die Werte gleich.
4D setzt Epsilon standardmäßig auf 10 hoch minus 6 (10^-6). Beispiele:
• 0.00001=0.00002 gibt Falsch zurück, da die Differenz 0.00001 größer ist als 10^-6.
• 0.000001=0.000002 gibt Wahr zurück, da die Differenz 0.000001 nicht größer ist als 10^-6.
• 0.000001=0.000003 gibt Falsch zurück, da die Differenz 0.000002 größer ist als 10^-6.
Mit SET REAL COMPARISON LEVEL können Sie den Epsilon-Wert je nach Bedarf erhöhen oder verringern.
Der Befehl hat keine Auswirkung, wenn Epsilon > 10e-3 oder < 0 ist.
Hinweis: Wollen Sie auf ein indiziertes Feld vom Typ Zahl mit Werten unter 10^-6 einen Such- oder Sortierlauf durchführen, sollten Sie vor Aufbau des Index den Befehl SET REAL COMPARISON LEVEL ausführen.
Sie benötigen diesen Befehl natürlich nur, wenn Sie nicht mit dem Standardwert von Epsilon arbeiten.
WICHTIG: Der Epsilon-Wert gilt nur für Zahlenvergleiche im Bezug auf Gleichheit. Er hat keine Auswirkung auf andere Vergleiche bzw. die Anzeige von Werten vom Typ Zahl.
Referenz
|
|
|
|
|
|
|
|
|
|
|