【組み込み】LSB(分解能)とOffset(オフセット)の違い、計算方法

組み込み系におけるLSB(分解能)とOffset(オフセット)の違い、計算方法についてまとめました。

【はじめに】LSB(分解能)とOffset(オフセット)の違い

組み込みソフトウェア分野におけるLSB(分解能)とOffset(オフセット)の意味と違いは以下のとおりです。

LSB 物理値を固定小数点数で表すときの分解能。
オフセット 表現範囲

【計算例】LSB(分解能)とOffset(オフセット)

計算例1

・データ型:16bit符号あり整数(10進数:-32,768~32,767)
・LSB:0.001
・単位:V

表現できる値の範囲は「-32.768V ~ 32.767V」となります。

計算例2

・データ型:16bit符号なし整数(10進数:0~65,535)
・LSB:0.01
・単位:V
・オフセット:-273.15

表現できる値の範囲は「-273.15V ~ 382.20V」となります。
※オフセットがない(0)の場合は「0V ~ 655.35V」

コンピュータ
西住工房

コメント

タイトルとURLをコピーしました