센서 Hysteresis·Repeatability·Linearity 차이｜정확도 사양 읽는 법

압력센서나 로드셀, 변위센서 등의 데이터시트를 보면 Linearity, Hysteresis, Repeatability라는 항목을 자주 볼 수 있습니다.

세 항목은 모두 센서의 측정오차와 관련되어 있지만 의미는 서로 다릅니다.

가장 간단하게 보면

Linearity = 이상적인 직선에서 얼마나 벗어나는가

Hysteresis = 같은 값이라도 올라갈 때와 내려갈 때 결과가 얼마나 다른가

Repeatability = 같은 조건을 반복했을 때 결과가 얼마나 일정한가

라고 이해할 수 있습니다.

세 가지 오차의 차이

항목	확인하는 내용	대표적인 질문
Linearity	이상적인 직선과 실제 출력의 차이	압력에 비례해 출력이 정확히 증가하는가?
Hysteresis	증가·감소 방향에 따른 출력 차이	같은 5bar라도 올라갈 때와 내려갈 때 같은가?
Repeatability	반복 측정값의 일치 정도	같은 5bar를 여러 번 측정하면 같은 값이 나오는가?

숫자가 작을수록 일반적으로 센서의 정적 측정 특성이 우수하다고 볼 수 있습니다.

Linearity란 무엇일까?

Linearity는 센서의 입력과 출력 관계가 이상적인 직선에서 얼마나 벗어나는지 나타냅니다.

예를 들어 0~10bar 압력센서의 출력이 0~10V라면 이상적인 관계는

1bar → 1V

5bar → 5V

10bar → 10V

처럼 일정한 비율로 증가하는 것입니다.

하지만 실제 센서는 완벽한 직선이 아닙니다.

5bar에서 이상적으로 5.000V가 나와야 하는데 실제 출력이 5.030V라면 직선에서 0.030V 벗어난 것입니다.

이런 차이를 전체 범위에서 확인한 것이 Linearity Error 또는 Non-linearity입니다.

±0.2% FS Linearity를 계산해보자

측정범위가

0~10bar

이고 Linearity가

±0.2% FS

라고 가정하겠습니다.

Full Scale 10bar를 기준으로 계산하면

10bar × 0.2% = 0.02bar

입니다.

따라서 선형성에 의한 최대 편차가 약

±0.02bar

수준이라는 의미입니다.

다만 실제 데이터시트에서는 선형성을 압력값이 아닌 FSO(Full Scale Output) 기준으로 표시하기도 하므로 제조사의 정의를 확인해야 합니다.

BFSL과 Terminal Line은 무엇일까?

Linearity 사양을 보다 보면 BFSL이라는 표현도 볼 수 있습니다.

BFSL은 Best Fit Straight Line의 약자로 실제 측정점과 가장 잘 맞도록 계산한 직선을 기준으로 비선형성을 구하는 방식입니다.

반면 센서의 최소점과 최대점을 연결한 직선을 기준으로 계산하는 방법도 있습니다.

따라서

Non-linearity ±0.1% BFSL

과

Non-linearity ±0.1% Terminal

은 숫자가 같더라도 정확히 같은 조건이라고 볼 수 없습니다.

센서 두 개를 비교할 때는 Linearity 계산 기준까지 동일한지 확인해야 합니다.

Hysteresis란 무엇일까?

Hysteresis는 입력을 증가시키면서 측정했을 때와 감소시키면서 측정했을 때 같은 입력값에서 출력이 다르게 나타나는 현상입니다.

예를 들어 압력을 다음 순서로 올렸다고 해보겠습니다.

0 → 2 → 4 → 6 → 8 → 10bar

그리고 다시

10 → 8 → 6 → 4 → 2 → 0bar

순서로 내립니다.

압력이 올라가는 과정에서 5bar의 출력이

5.01V

였는데 내려오는 과정에서 같은 5bar의 출력이

4.98V

라면 두 값 사이에 차이가 발생합니다.

이 차이가 Hysteresis입니다.

왜 같은 압력인데 값이 달라질까?

실제 센서의 감지부는 기계적·물리적인 구조를 가지고 있습니다.

예를 들어 압력센서의 다이어프램이나 로드셀의 탄성체가 변형됐다가 원래 위치로 돌아오는 과정에서 완전히 동일한 경로를 따르지 않을 수 있습니다.

재료의 탄성 특성이나 기계구조, 결합부 등이 영향을 줄 수 있습니다.

그래서 Hysteresis는 단순 전기적 노이즈와는 다른 개념입니다.

Hysteresis ±0.1% FS라면?

0~100bar 압력센서에서 Hysteresis가

0.1% FS

라고 가정하겠습니다.

전체 범위 100bar를 기준으로 하면

100 × 0.1% = 0.1bar

입니다.

같은 압력을 증가방향과 감소방향에서 측정했을 때 두 출력 사이의 최대 차이가 규정된 방식에 따라 약 0.1bar 상당의 범위 안에 있다는 의미로 해석할 수 있습니다.

정확한 표현방법은 해당 제조사의 데이터시트 정의를 따라야 합니다.

Repeatability란 무엇일까?

Repeatability는 동일한 조건에서 같은 입력을 반복해서 가했을 때 센서가 얼마나 비슷한 출력을 내는지 나타냅니다.

예를 들어 정확히 5bar의 압력을 센서에 여러 번 가했다고 해보겠습니다.

측정 결과가

5.001bar
5.000bar
5.002bar
5.001bar

처럼 매우 비슷하다면 Repeatability가 좋은 센서입니다.

반대로

4.95bar
5.04bar
4.98bar
5.06bar

처럼 결과가 크게 흩어진다면 반복성이 좋지 않다고 볼 수 있습니다.

Accuracy와 Repeatability는 같은 의미일까?

아닙니다.

예를 들어 실제 압력이 정확히

5.00bar

라고 하겠습니다.

센서가 매번

5.20bar

를 표시한다면 결과는 계속 거의 같기 때문에 Repeatability는 좋을 수 있습니다.

하지만 실제값에서 0.20bar 벗어나 있기 때문에 Accuracy는 좋지 않습니다.

반대로 측정값 평균은 5.00bar에 가까워도 반복할 때마다 값이 크게 흔들리면 Accuracy 평가 방식에 따라 문제가 될 수 있고 Repeatability도 좋지 않습니다.

즉

Accuracy = 실제값과 얼마나 가까운가

Repeatability = 반복했을 때 얼마나 일정한가

로 구분할 수 있습니다.

세 가지를 실제 사례로 비교해보자

0~10bar 압력센서가 있고 다음과 같은 사양이라고 가정하겠습니다.

Linearity: ±0.20% FS

Hysteresis: ±0.10% FS

Repeatability: ±0.05% FS

각 항목을 압력으로 단순 환산하면

Linearity

10 × 0.20% = ±0.020bar

Hysteresis

10 × 0.10% = ±0.010bar

Repeatability

10 × 0.05% = ±0.005bar

수준입니다.

하지만 이를 단순히

0.020 + 0.010 + 0.005 = ±0.035bar

라고 무조건 합산해서 전체 Accuracy라고 판단하면 안 됩니다.

제조사가 Accuracy를 어떤 방식으로 정의했는지 확인해야 하기 때문입니다.

Accuracy에 세 항목이 이미 포함될 수도 있다

일부 센서 데이터시트에서는 Accuracy를

Linearity + Hysteresis + Repeatability

를 포함한 하나의 값으로 제공합니다.

반면 다른 제조사는 각 항목을 별도로 표시합니다.

예를 들어

Accuracy: ±0.25% FS

라고 되어 있고 아래 설명에서

includes non-linearity, hysteresis and repeatability

라고 되어 있다면 세 항목을 다시 더하면 안 됩니다.

반대로 각각 별도의 성능항목으로 제공되는 제품이라면 전체 시스템의 Error Budget을 계산할 때 추가 검토가 필요합니다.

따라서 Accuracy 숫자보다 주석과 사양 정의를 읽는 것이 중요합니다.

온도오차도 별도로 확인해야 한다

Linearity·Hysteresis·Repeatability가 좋아도 실제 사용환경의 온도가 변하면 센서 출력이 달라질 수 있습니다.

데이터시트에서는

Thermal Zero Shift

Thermal Sensitivity Shift

Temperature Coefficient

Total Error Band

등의 항목을 별도로 제공할 수 있습니다.

예를 들어 25℃에서 Accuracy가 매우 좋은 센서라도 -20℃나 80℃에서는 온도에 의한 추가오차가 발생할 수 있습니다.

따라서 산업현장에서 사용할 센서는 보상온도범위와 온도오차까지 함께 확인해야 합니다.

Resolution과 Repeatability도 다르다

Resolution은 센서가 구분할 수 있는 가장 작은 입력 변화량입니다.

예를 들어 0.01bar 단위까지 표시할 수 있는 센서가 있다고 해서 같은 압력을 반복했을 때 항상 같은 값이 나온다는 의미는 아닙니다.

Resolution = 얼마나 작은 변화를 구분하는가

Repeatability = 동일한 조건을 반복했을 때 얼마나 같은 결과를 내는가

입니다.

따라서 표시 자릿수가 많다 = 정확한 센서라고 판단해서는 안 됩니다.

실제 데이터시트는 어떻게 읽을까?

다음과 같은 압력센서가 있다고 가정하겠습니다.

Range: 0~100bar

Accuracy: ±0.5% FS

Non-linearity: ±0.2% FS

Hysteresis: ±0.1% FS

Repeatability: ±0.05% FS

이 경우 가장 먼저 확인해야 할 것은 Accuracy의 정의입니다.

제조사 주석에

Accuracy includes non-linearity, hysteresis and repeatability

라고 되어 있다면 ±0.5% FS 안에 해당 항목들이 이미 반영되어 있을 수 있습니다.

100bar 기준으로는

100 × 0.5% = ±0.5bar

입니다.

반면 Accuracy와 각각의 오차항목이 독립적으로 규정되어 있다면 데이터시트의 계산조건을 추가로 확인해야 합니다.

흔히 잘못 해석하는 부분

첫 번째는

“Linearity가 가장 작으면 가장 정확한 센서다.”

라는 생각입니다.

Linearity는 전체 오차를 구성하는 한 항목일 뿐입니다.

두 번째는

“Repeatability가 좋으면 실제값도 정확하다.”

는 생각입니다.

항상 같은 잘못된 값을 표시해도 반복성은 좋을 수 있습니다.

세 번째는

“Linearity·Hysteresis·Repeatability를 전부 단순 합산하면 Accuracy다.”

라는 생각입니다.

제조사가 이미 Accuracy에 포함시킨 경우 이중계산이 될 수 있습니다.

정리

센서의 Linearity·Hysteresis·Repeatability는 비슷해 보이지만 서로 다른 성능을 나타냅니다.

Linearity = 이상적인 직선에서 얼마나 벗어나는가

Hysteresis = 같은 입력을 상승·하강 방향에서 측정했을 때 얼마나 차이나는가

Repeatability = 같은 입력을 반복했을 때 얼마나 같은 결과가 나오는가

센서 데이터시트를 확인할 때는

Range → Accuracy → Linearity → Hysteresis → Repeatability → Accuracy 포함항목 → 온도오차

순서로 확인하면 좋습니다.

특히 여러 센서를 비교할 때는 단순히 ±0.1%라는 숫자만 비교하지 말고 FS·FSO·Reading 기준과 BFSL 여부, Accuracy에 포함된 항목까지 함께 확인하는 것이 중요합니다.

참고자료

• NI – Sensor Terminology: Linearity를 실제 센서 특성곡선이 이상적인 직선에서 벗어나는 정도로 설명하고, Hysteresis는 같은 입력값에 접근하는 방향에 따라 출력이 달라지는 특성으로 설명합니다. NI
• TE Connectivity – Glossary of Common Sensor Terms: Hysteresis, Non-linearity, Non-repeatability 및 FSO의 정의와 각 오차항목의 일반적인 표시방법을 설명합니다. TE 커넥티비티
• Honeywell – Pressure Sensor Glossary of Terms: Pressure Hysteresis를 반대 방향에서 동일 압력을 인가했을 때의 최대 출력차로, Pressure Non-Linearity를 실제 출력과 기준 직선 사이의 최대편차로 정의합니다. Honeywell
• Honeywell – Precision Pressure Transducer: 실제 센서 데이터시트에서 Total Error를 Linearity·Repeatability·Hysteresis·Thermal Effects·Calibration Error 등의 조합으로 정의하는 사례를 확인할 수 있습니다.