1*b1cdbd2cSJim Jagielski /**************************************************************
2*b1cdbd2cSJim Jagielski *
3*b1cdbd2cSJim Jagielski * Licensed to the Apache Software Foundation (ASF) under one
4*b1cdbd2cSJim Jagielski * or more contributor license agreements. See the NOTICE file
5*b1cdbd2cSJim Jagielski * distributed with this work for additional information
6*b1cdbd2cSJim Jagielski * regarding copyright ownership. The ASF licenses this file
7*b1cdbd2cSJim Jagielski * to you under the Apache License, Version 2.0 (the
8*b1cdbd2cSJim Jagielski * "License"); you may not use this file except in compliance
9*b1cdbd2cSJim Jagielski * with the License. You may obtain a copy of the License at
10*b1cdbd2cSJim Jagielski *
11*b1cdbd2cSJim Jagielski * http://www.apache.org/licenses/LICENSE-2.0
12*b1cdbd2cSJim Jagielski *
13*b1cdbd2cSJim Jagielski * Unless required by applicable law or agreed to in writing,
14*b1cdbd2cSJim Jagielski * software distributed under the License is distributed on an
15*b1cdbd2cSJim Jagielski * "AS IS" BASIS, WITHOUT WARRANTIES OR CONDITIONS OF ANY
16*b1cdbd2cSJim Jagielski * KIND, either express or implied. See the License for the
17*b1cdbd2cSJim Jagielski * specific language governing permissions and limitations
18*b1cdbd2cSJim Jagielski * under the License.
19*b1cdbd2cSJim Jagielski *
20*b1cdbd2cSJim Jagielski *************************************************************/
21*b1cdbd2cSJim Jagielski
22*b1cdbd2cSJim Jagielski #include <math.h>
23*b1cdbd2cSJim Jagielski
24*b1cdbd2cSJim Jagielski #define PREC_float 1
25*b1cdbd2cSJim Jagielski #define PREC_double 2
26*b1cdbd2cSJim Jagielski #define PREC_long_double 3
27*b1cdbd2cSJim Jagielski
28*b1cdbd2cSJim Jagielski template<class T>
is_equal(T x,T y,sal_Int16 _nPrec)29*b1cdbd2cSJim Jagielski bool is_equal(T x, T y, sal_Int16 _nPrec)
30*b1cdbd2cSJim Jagielski {
31*b1cdbd2cSJim Jagielski // due to the fact that this check looks only if both values are equal
32*b1cdbd2cSJim Jagielski // we only need to look on one value
33*b1cdbd2cSJim Jagielski
34*b1cdbd2cSJim Jagielski // 14 digits will announce the checkPrecisionSize
35*b1cdbd2cSJim Jagielski
36*b1cdbd2cSJim Jagielski sal_Int32 nPRECISION;
37*b1cdbd2cSJim Jagielski switch(_nPrec)
38*b1cdbd2cSJim Jagielski {
39*b1cdbd2cSJim Jagielski case PREC_float:
40*b1cdbd2cSJim Jagielski nPRECISION = 6;
41*b1cdbd2cSJim Jagielski break;
42*b1cdbd2cSJim Jagielski case PREC_double:
43*b1cdbd2cSJim Jagielski nPRECISION = 14;
44*b1cdbd2cSJim Jagielski break;
45*b1cdbd2cSJim Jagielski case PREC_long_double:
46*b1cdbd2cSJim Jagielski nPRECISION = 20;
47*b1cdbd2cSJim Jagielski break;
48*b1cdbd2cSJim Jagielski default:
49*b1cdbd2cSJim Jagielski nPRECISION = 2;
50*b1cdbd2cSJim Jagielski }
51*b1cdbd2cSJim Jagielski
52*b1cdbd2cSJim Jagielski if (x < 0)
53*b1cdbd2cSJim Jagielski {
54*b1cdbd2cSJim Jagielski x = -x;
55*b1cdbd2cSJim Jagielski }
56*b1cdbd2cSJim Jagielski if (y < 0)
57*b1cdbd2cSJim Jagielski {
58*b1cdbd2cSJim Jagielski y = -y;
59*b1cdbd2cSJim Jagielski }
60*b1cdbd2cSJim Jagielski
61*b1cdbd2cSJim Jagielski // LLA: due to a bug in printf with '%f' and long double within linux environment
62*b1cdbd2cSJim Jagielski // we have to use %lf instead.
63*b1cdbd2cSJim Jagielski
64*b1cdbd2cSJim Jagielski if (_nPrec != PREC_long_double)
65*b1cdbd2cSJim Jagielski {
66*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, "double equal: %.20f\n", x);
67*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, " %.20f\n", y);
68*b1cdbd2cSJim Jagielski }
69*b1cdbd2cSJim Jagielski //here nPrecOfN is the number after dot
70*b1cdbd2cSJim Jagielski sal_Int32 nBeforeDot = sal_Int32( log10(x) );
71*b1cdbd2cSJim Jagielski if ( nBeforeDot < 0)
72*b1cdbd2cSJim Jagielski {
73*b1cdbd2cSJim Jagielski nBeforeDot = 0;
74*b1cdbd2cSJim Jagielski }
75*b1cdbd2cSJim Jagielski //t_print(T_VERBOSE, "nPRECISION is %d\n", nPRECISION);
76*b1cdbd2cSJim Jagielski sal_Int32 nPrecOfN = -nPRECISION + nBeforeDot;
77*b1cdbd2cSJim Jagielski
78*b1cdbd2cSJim Jagielski if (_nPrec != PREC_long_double)
79*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, "nPrecOfN is %d\n", nPrecOfN);
80*b1cdbd2cSJim Jagielski
81*b1cdbd2cSJim Jagielski long double nPrec = pow(0.1, -nPrecOfN);
82*b1cdbd2cSJim Jagielski
83*b1cdbd2cSJim Jagielski if (_nPrec != PREC_long_double)
84*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, " prec: %.20f\n", nPrec);
85*b1cdbd2cSJim Jagielski
86*b1cdbd2cSJim Jagielski long double nDelta = fabs( x - y ) ;
87*b1cdbd2cSJim Jagielski
88*b1cdbd2cSJim Jagielski if (_nPrec != PREC_long_double)
89*b1cdbd2cSJim Jagielski {
90*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, " delta: %.20f\n", nDelta);
91*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, " nPrec: %.20f\n", nPrec);
92*b1cdbd2cSJim Jagielski t_print(T_VERBOSE, "delta must be less or equal to prec!\n\n");
93*b1cdbd2cSJim Jagielski }
94*b1cdbd2cSJim Jagielski
95*b1cdbd2cSJim Jagielski if (nDelta > nPrec)
96*b1cdbd2cSJim Jagielski {
97*b1cdbd2cSJim Jagielski // t_print(T_VERBOSE, "values are not equal! ndelta:%.20f\n", nDelta);
98*b1cdbd2cSJim Jagielski return false;
99*b1cdbd2cSJim Jagielski }
100*b1cdbd2cSJim Jagielski // else
101*b1cdbd2cSJim Jagielski // {
102*b1cdbd2cSJim Jagielski // t_print(T_VERBOSE, "values are equal. ndelta:%.20f\n", nDelta);
103*b1cdbd2cSJim Jagielski return true;
104*b1cdbd2cSJim Jagielski // }
105*b1cdbd2cSJim Jagielski }
106*b1cdbd2cSJim Jagielski
107*b1cdbd2cSJim Jagielski // LLA: bool is_float_equal(float x, float y)
108*b1cdbd2cSJim Jagielski // LLA: {
109*b1cdbd2cSJim Jagielski // LLA: // due to the fact that this check looks only if both values are equal
110*b1cdbd2cSJim Jagielski // LLA: // we only need to look on one value
111*b1cdbd2cSJim Jagielski // LLA:
112*b1cdbd2cSJim Jagielski // LLA: // 6 digits will announce the checkPrecisionSize
113*b1cdbd2cSJim Jagielski // LLA:
114*b1cdbd2cSJim Jagielski // LLA: const sal_Int32 nPRECISION = 6;
115*b1cdbd2cSJim Jagielski // LLA: if (x < 0)
116*b1cdbd2cSJim Jagielski // LLA: {
117*b1cdbd2cSJim Jagielski // LLA: x = -x;
118*b1cdbd2cSJim Jagielski // LLA: }
119*b1cdbd2cSJim Jagielski // LLA: if (y < 0)
120*b1cdbd2cSJim Jagielski // LLA: {
121*b1cdbd2cSJim Jagielski // LLA: y = -y;
122*b1cdbd2cSJim Jagielski // LLA: }
123*b1cdbd2cSJim Jagielski // LLA:
124*b1cdbd2cSJim Jagielski // LLA: t_print(T_VERBOSE, "double equal: %.20f\n# %.20f\n", x, y);
125*b1cdbd2cSJim Jagielski // LLA: sal_Int32 nPrecOfN = -nPRECISION + sal_Int32( log10(x) );
126*b1cdbd2cSJim Jagielski // LLA:
127*b1cdbd2cSJim Jagielski // LLA: t_print(T_VERBOSE, "prec: %d\n", nPrecOfN);
128*b1cdbd2cSJim Jagielski // LLA: double nPrec = pow(10, nPrecOfN) * 1;
129*b1cdbd2cSJim Jagielski // LLA:
130*b1cdbd2cSJim Jagielski // LLA: t_print(T_VERBOSE, " prec: %.20f\n", nPrec);
131*b1cdbd2cSJim Jagielski // LLA:
132*b1cdbd2cSJim Jagielski // LLA: double nDelta = fabs( x - y );
133*b1cdbd2cSJim Jagielski // LLA: t_print(T_VERBOSE, " delta: %.20f\n\n", nDelta);
134*b1cdbd2cSJim Jagielski // LLA:
135*b1cdbd2cSJim Jagielski // LLA: if (nDelta > nPrec)
136*b1cdbd2cSJim Jagielski // LLA: {
137*b1cdbd2cSJim Jagielski // LLA: // t_print(T_VERBOSE, "values are not equal! ndelta:%.20f\n", nDelta);
138*b1cdbd2cSJim Jagielski // LLA: return false;
139*b1cdbd2cSJim Jagielski // LLA: }
140*b1cdbd2cSJim Jagielski // LLA: // else
141*b1cdbd2cSJim Jagielski // LLA: // {
142*b1cdbd2cSJim Jagielski // LLA: // t_print(T_VERBOSE, "values are equal. ndelta:%.20f\n", nDelta);
143*b1cdbd2cSJim Jagielski // LLA: return true;
144*b1cdbd2cSJim Jagielski // LLA: // }
145*b1cdbd2cSJim Jagielski // LLA: }
146*b1cdbd2cSJim Jagielski
is_float_equal(float x,float y)147*b1cdbd2cSJim Jagielski bool is_float_equal(float x, float y)
148*b1cdbd2cSJim Jagielski {
149*b1cdbd2cSJim Jagielski return is_equal<float>(x, y, PREC_float);
150*b1cdbd2cSJim Jagielski }
is_double_equal(double x,double y)151*b1cdbd2cSJim Jagielski bool is_double_equal(double x, double y)
152*b1cdbd2cSJim Jagielski {
153*b1cdbd2cSJim Jagielski return is_equal<double>(x, y, PREC_double);
154*b1cdbd2cSJim Jagielski }
155