了解分辨率和精度之間的關系將幫助您確定使用數(shù)字萬用表實際可以測量的電壓、電流或電阻有多小，或者這些值的變化有多小。
    當您購買數(shù)字萬用表時，您通常首先看的是萬用表顯示了多少個“數(shù)字”或多少個“計數(shù)”。萬用表的位數(shù)或計數(shù)越多，測量的分辨率就越高。位數(shù)與數(shù)字萬用表的模數(shù)轉換器可以輸出的不同值的數(shù)量直接相關。
    例如，3-1/2 位數(shù)字萬用表可以顯示多 2000 個不同的值或“計數(shù)”，范圍從 0 到 1999。在這種情況下，有效數(shù)字是 1 或 0。這就是為什么它被稱為“計數(shù)”。半位數(shù)?！?4-1/2 位數(shù)字萬用表多可顯示 20000 個計數(shù)。一代的數(shù)字萬用表已經(jīng)完全消除了數(shù)字的概念。相反，它們僅以計數(shù)形式指定顯示分辨率。
    計數(shù)次數(shù)越多，分辨率越高。這意味著您的數(shù)字萬用表的位數(shù)越多，您可以測量的電壓變化越小。例如，像 Fluke 83V 這樣的 6000 計數(shù)萬用表可以在 6.000 V 刻度上測量 0 V 到 5.999 V，分辨率為 1 mV。
    不過，解決方案并不是故事的全部。一方面，數(shù)字測量始終具有 ±1 計數(shù)的不確定度：當 6000 計數(shù) DMM 顯示 3.000 V 時，實際值可能是 3.001 V 或 2.999 V。
    除了數(shù)字不確定性之外，在確定實際可以測量的電壓變化有多小時，還必須考慮模擬精度規(guī)格。Fluke 83V 的直流電壓精度規(guī)格為讀數(shù)的 ±0.1%。如果您嘗試使用此數(shù)字萬用表讀取 3.000 V 讀數(shù)，則必須另外添加 3 mV 的不確定性。當您將模擬不確定性添加到數(shù)字不確定性時，您可以看到 3.000 V 讀數(shù)現(xiàn)在實際上可能高達 3.004 V 或低至 2.996 V。
    許多其他因素會影響測量的準確性。例如，F(xiàn)luke 83V 數(shù)據(jù)表指出，只有當 DMM 在“18 °C 至 28 °C 的工作溫度、相對濕度高達 90% 的情況下運行一年后，精度指標才良好”。校準?！?如果您在較熱或較冷的溫度下或在非常潮濕的條件下操作數(shù)字萬用表，則無法期望獲得的精度。
    還需要注意的是，只有定期校準儀表才能保證精度規(guī)格。如果精度在您的應用中很重要，請務必每年或制造商指定的任何校準周期對您的數(shù)字萬用表進行校準。