【組み込み】LSB(分解能)とOffset(オフセット)の違い、計算方法

組み込み系におけるLSB(分解能)とOffset(オフセット)の違い、計算方法についてまとめました。

【はじめに】LSB(分解能)とOffset(オフセット)の違い

組み込みソフトウェア分野におけるLSB(分解能)とOffset(オフセット)の意味と違いは以下のとおりです。

LSB 物理値を固定小数点数で表すときの分解能。
オフセット 表現範囲

【計算例】LSB(分解能)とOffset(オフセット)

計算例1

・データ型:16bit符号あり整数(10進数:-32,768~32,767)
・LSB:0.001
・単位:V

表現できる値の範囲は「-32.768V ~ 32.767V」となります。

計算例2

・データ型:16bit符号なし整数(10進数:0~65,535)
・LSB:0.01
・単位:V
・オフセット:-273.15

表現できる値の範囲は「-273.15V ~ 382.20V」となります。
※オフセットがない(0)の場合は「0V ~ 655.35V」

この記事を書いた人
西住技研

在学中はシステム制御理論や画像処理、機械学習を専攻分野として研究していました。就職後は、プログラミング(Python)を活用したデータ分析や作業自動化に取り組み、現在に至ります。そこで得たノウハウをブログで発信しています。
YoutubeX(旧Twitter)でも情報発信中です

西住技研をフォローする
コンピュータ

コメント