입실론 테스트

이번 글에선 실수를 비교하기 위한 방법인 입실론 테스트에 대해 알아보고자 한다.

Foreword

코딩을 하면서 두 실수가 정확하게 같은지를 비교하는 로직을 작성할 때가 많다. 하지만 때때론 잘못된 결과를 출력하는 경우가 발생한다.

 

예를 들어, 어떤 실수가 정확하게 0과 같은지를 비교할 때이다.

float f = sqrt(9.0f) - 3.0f; // 9^2 - 3
if (f == 0.0f) // Works only sometimes
{
	// Equal
}

 

Problem Explanation

우선, 이러한 문제는 정수를 비교할 땐 절대 발생하지 않는다. 만약 int타입의 $3$을 int타입의 $3$을 뺀다면, 항상 $0$을 출력할 것이다.

 

이러한 문제는 실수(C++에선 float 타입과 double 타입)를 메모리에 저장하는 방식때문에 발생하는데, 이에 대해선 다들 알고 있으리라 생각하고 여기에선 따로 설명하지 않겠다.

 

Solution

이 문제를 해결하기 위해선 두 실수를 비교할 때 허용 범위를 정의하는 작은 입실론 값이 필요하다. 입실론 값을 비교하는 실수의 크기에 따라 동적으로 생성하거나, 다양한 상수값을 정의하는 알고리즘은 많으니 원하는 알고리즘을 찾아 사용하면 된다.

 

입실론이란 두 값이 서로 다를 수 있는 한계를 뜻하며, 두 값이 달라도 동일하다고 판단할 수 있는 차이 범위라고 정의할 수 있다. 두 값의 차를 이용하여 해당 값이 입실론보다 작은지, 즉 허용할 수 있는 범위인지를 반환하여 두 실수의 비교 연산을 구현할 수 있다.

bool compf(float A, float B, float epsilon = 0.005f)
{
	return (fabs(A - B) < epsilon);
}

// Automatically set the epsilon to 0.005f
compf(1.0f, 2.0f);
// Manually set the epsilon to 0.0001f
compf(1.0f, 2.0f, 0.0001f);