可視解析度

測量儀器最小增量的大小叫可視解析度。

可視解析度

定義

該數值通常以文字形式（如廣告中）來劃分測量儀器的分級。數據的分級數可通過把該增量的大小劃分類預期的過程分布範圍（6σ）來確定。

附註

註：顯示或報告的位數不一定總表示儀器的解析度。例如，零件的測量值為29.075、29.080、29.095等，記錄為5位數。然而該儀器的解析度為0.005而不是0.001。