組み込み系におけるLSB(分解能)とOffset(オフセット)の違い、計算方法についてまとめました。
【はじめに】LSB(分解能)とOffset(オフセット)の違い
組み込みソフトウェア分野におけるLSB(分解能)とOffset(オフセット)の意味と違いは以下のとおりです。
– | – |
---|---|
LSB | 物理値を固定小数点数で表すときの分解能。 |
オフセット | 表現範囲 |
【計算例】LSB(分解能)とOffset(オフセット)
計算例1
・データ型:16bit符号あり整数(10進数:-32,768~32,767)
・LSB:0.001
・単位:V
表現できる値の範囲は「-32.768V ~ 32.767V」となります。
計算例2
・データ型:16bit符号なし整数(10進数:0~65,535)
・LSB:0.01
・単位:V
・オフセット:-273.15
表現できる値の範囲は「-273.15V ~ 382.20V」となります。
※オフセットがない(0)の場合は「0V ~ 655.35V」
コメント