簡單點說，光柵尺的“精度”是用來描述物理量的準確程度的，而“分辨率”是用來描述刻度劃分的。從定義上看，這兩個量應該是風馬牛不相及的。很多賣傳感器的JS就是利用這一點來糊弄人的了。簡單做個比喻：有這么一把常見的塑料尺（中學生用的那種），它的量程是10厘米，上面有100個刻度，zui小能讀出1毫米的有效值。那么我們就說這把尺子的分辨率是1毫米，或者量程的1%；而它的實際精度就不得而知了（算是0.1毫米吧）。當我們用火來烤一下它，并且把它拉長一段，然后再考察一下它。我們不難發現，它還有有100個刻度，它的“分辨率”還是1毫米，跟原來一樣！然而，您還會認為它的精度還是原來的0.1毫米么？