Задача отдела метрологии: калибровка поступающего из других отделов измерительного оборудования. Сверхточные приборы за сотни тысяч рублей и резерв измерительной техники - принадлежат им лично. Поэтому, изначально и не было никаких сомнений в походе к ним. Но с измерениями резистора пошло неладное (при условии, что контакт с пальцами полностью исключён):

- мультиметр APPA 502 за 19-33к - показывал сопротивление щупов. До этого APPA 505 в другом отделе - тоже фигню показывал;

- мультиметр APPA 505 за 27-50к рублей - показывал прыгающее значение 0.8-1.4Ом;

- отложили мультиметры, т.к. их ТТХ странные. В одних инструкциях заявляют нижние диапазоны 400Ом и 1000Ом соответственно - в других отмечают их как верхний предел режима измерения 400Ом и 1000Ом соответственно - с разрешением 0.01Ом. Но миллиомметр с минимумом измерения 1мкОм, похожий на E6-25 за 55к (4 отверстия под щупы 2 цветов, расположенных как квадрат), - показывал сопротивление щупов 0.174Ом.

Инженер не нашёлся, что ответить. Предполагалось, что оба параллельно соединённых резистора бракованные и представляют просто сквозную проволоку без нихрома.

В дело вступила математика. Советский резистор военной приёмки (с ромбами и треугольниками) 1Ом/1%/10Вт (С5-5-10Вт). Использовался как делитель напряжения, с отчищенными до блеска и залуженными контактами. Напряжение подавалось с БП ПК 3.3В, через выключатель - до делителя дошло 3.21В. На 1Ом упало 2.94В (режим мультиметра DT9205A 20В), на неизвестном сопротивлении - 0.270В (режим мультиметра 2В). Ну и простая математика - реальное сопротивление шунта 91.836мОм с точностью ~3.12%, исходя из наибольшей погрешности режима 20В.

Подарил делитель напряжения инженеру метрологии - пусть сами выясняют, что с приборами или знаниями не так. Сам же - только делителями теперь измерять и буду. Ну откуда у работника с программными изделиями может взяться, например, микроомметр TC-2 за 178к...

(добавлено 16.01.2025) Незначительная ошибка, не влияющая на результат статьи. Характеристики резистора 1Ом верные, но не название: не С5-5-10Вт, а С5-16В-8Вт, 1981 год.

Повтор эксперимента с другой парой 5WR18J так же показал правильный результат: 0.89873Ом.

Цены в РФ на резисторы очень сильно возмутили (если бы хотел купить высокомощный резистор-шунт с точностью 1% - избавившись от необходимости косвенных измерений). На примере, естественно, чиподипа, для контраста:

- Yageo KNP100JR-73-0R1 (без указания точности): 110руб 2 раза (т.е., обязательно надо 2 купить);

- TT Electronics OAR3R025FLF: 470руб;

- MultiComp MC14693: 1998руб 2 раза;

- Ресурс Р2-118-1-ОТК-0,05: 41руб/шт (единственный адекватный образец).

Между тем, на AliExpress:

- 0.1Ом/2Вт/1% (по факту - советский 1Вт): 260руб/20шт;

- 0.3Ом/0.25Вт/1% (по факту - советские 0.125Вт): 54руб/100шт;

- точность резисторов - реальная, подтверждалось многими покупками других номиналов и мощностей.

Отдельно в РФ: С5-16В-10Вт 1Ом/1%/10Вт - 330руб. Его аналог, KNP10W, - 1700руб/4шт. Аналогов на AliExpress нет - ближайший: RX21 - 0.05-0.15Ом/5%/10Вт - 160руб/5шт.

Поэтому лучше использовать делитель напряжения для получения точного значения - позволив себе в приобретении погрешности 5-10-20% - уменьшив их до ~3%. Использование же напряжения <2В (батарейка AA?) позволит не использовать режим мультиметра 20В - уменьшив погрешность измерения ещё больше.

(добавлено 27.01.2025) Метролог вернул делитель напряжения с результатами измерений. Дело оказалось в неисправных щупах. С исправными - 0.0936Ом. Это отличается от результата на DT9205A на 0.98% - значит, дешёвыми мультиметрами тоже можно получать достойные результаты, используя делитель напряжения.

(добавлено 21.02.2025) Интересный феномен был обнаружен после обнаружения неправильных показаний амперметров. Значения сопротивлений, показываемых мультиметром, - могут колебаться. А показания вольтметра не колеблются. Поэтому выгоднее подать напряжение на делитель напряжения - и снять показания именно вольтметром, заодно не используя при этом разные режимы мультиметра.

На примере делителя напряжения 1МОм и 56кОм: показания мультиметра колеблятся 970-975кОм. Подал с БП ПК напряжение 1.714В, соединив делителем ветки питания +5В и +3.3В, - напряжение даже на сотых не колеблется (на тысячных - на 1). 1.62В падает на большом резисторе, 0.088В на малом - при использовании одного режима мультиметра 2В. Итог - коэффициент делителя напряжения составляет 19.477 (правильнее - 0.051341: по Большой российской энциклопедии) с погрешностью 0.35% (куда-то 0.006В всё-таки пропали - предположительно, при измерении разные расстояния между щупами мультиметра были).

Даже если мультиметр постоянно врёт, в большую или меньшую сторону, - эта дельта перестаёт влиять на результат.