Правила округления после запятой. Округление числа до необходимого десятичного разряда

Настоящий стандарт СЭВ устанавливает правила записи и округления чисел, выраженных в десятичной системе счисления.

Правила записи и округления чисел, установленные в настоящем стандарте СЭВ, предназначены для применения в нормативно-технической, конструкторской и технологической документации.

Настоящий стандарт СЭВ не распространяется на специальные правила округления, установленные в других стандартах СЭВ.

1. ПРАВИЛА ЗАПИСИ ЧИСЕЛ

1.1. Значащие цифры данного числа - это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10 n , не учитываются.

1. Число 12,0

имеет три значащие цифры;

2. Число 30

имеет две значащие цифры;

3. Число 120·10 3

имеет три значащие цифры;

4. Число 0,514·10

имеет три значащие цифры;

5. Число 0,0056

имеет две значащие цифры.

1.2. Когда необходимо указать, что число является точным, после числа должно быть указано слово «точно» или же последняя значащая цифра печатается жирным шрифтом

Пример. В печатном тексте:

1 кВт·ч = 3 600 000 Дж (точно), или = 3600000 Дж

1.3. Следует различать записи приближенных чисел по количеству значащих цифр.

Примеры:

1. Следует различать числа 2,4 и 2,40. Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть например 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть 2,403 и 2,398, но не 2,421 и не 2,382.

2. Запись 382 означает, что все цифры верны; если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8·10 2 .

3. Если в числе 4720 верны лишь две первые цифры оно должно быть записано 47·10 2 или 4,7·10 3 .

1.4. Число, для которого указывается допускаемое отклонение, должно иметь последнюю значащую цифру того же разряда как и последняя значащая цифра отклонения.

Примеры:

1.5. Числовые значения величины и ее погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы физических величин.

Пример. 80,555±0,002 кг

1.6. Интервалы между числовыми значениями величин следует записывать:

От 60 до 100 или от 60 до 100

Свыше 100 до 120 или свыше 100 до 120

Свыше 120 до 150 или свыше 120 до 150.

1.7. Числовые значения величин должны указываться в стандартах с одинаковым числомразрядов, которое необходимо для обеспечения требуемых эксплуатационных свойств и качества продукции. Запись числовых значений величин до первого, второго, третьего и т. д. десятичного знака для различных типоразмеров, видов марок продукции одного названия, как правило, должна быть одинаковой. Например, если градация толщины стальной горячекатаной ленты 0,25 мм, то весь ряд толщин ленты должен быть указан с точностью до второго десятичного знака.

В зависимости от технической характеристики и назначения продукции количество десятичных знаков числовых значений величин одного и того же параметра, размера, показателя или нормы может иметь несколько ступеней (групп) и должно быть одинаковым только внутри этой ступени (группы).

2. ПРАВИЛА ОКРУГЛЕНИЯ

2.1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

Пример. Округление числа 132,48 до четырех значащих цифр будет 132,5.

2.2. В случае, если первая из отбрасываемых цифр (считая слева направо) меньше 5, то последняя сохраняемая цифра не меняется.

Пример. Округление числа 12,23 до трех значащих цифр дает 12,2.

2.3. В случае, если первая из отбрасываемых цифр (считая слева направо) равна 5, то последняя сохраняемая цифра увеличивается на единицу.

Пример. Округление числа 0,145 до двух значащих цифр дает 0,15.

Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, следует поступать следующим образом:

1) если отбрасываемая цифра получилась в результате предыдущего округления в большую сторону, то последняя сохраняемая цифра сохраняется;

Пример. Округление до одной значащей цифры числа 0,15 (полученного после округления числа 0,149) дает 0,1.

2) если отбрасываемая цифра получилась в результате предыдущего округления в меньшую сторону, то последняя оставшаяся цифра увеличивается на единицу (с переходом при необходимости в следующие разряды).

Пример. Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

2.4. В случае, если первая из отбрасываемых цифр (считая слева направо) больше 5, то последняя сохраняемая цифра увеличивается на единицу.

Пример. Округление числа 0,156 до двух значащих цифр дает 0,16.

2.5. Округление следует выполнять сразу до желаемого количества значащих цифр, а не по этапам.

Пример. Округление числа 565,46 до трех значащих цифр производится непосредственно на 565. Округление по этапам привело бы к:

565,46 в I этапе - к 565,5,

а во II этапе - 566 (ошибочно).

2.6. Целые числа округляют по тем же правилам, как и дробные.

Пример. Округление числа 12 456 до двух значащих цифр дает 12·10 3 .

Тема 01.693.04-75.

3. Стандарт СЭВ утвержден на 41-м заседании ПКС.

4. Сроки начала применения стандарта СЭВ:

Страны - члены СЭВ

Срок начала применения стандарта СЭВ в договорно-правовых отношениях по экономическому и научно-техническому сотрудничеству

Срок начала применения стандарта СЭВ в народном хозяйстве

НРБ

Декабрь 1979 г.

Декабрь 1979 г.

ВНР

Декабрь 1978 г.

Декабрь 1978 г.

ГДР

Декабрь 1978 г.

Декабрь 1978 г.

Республика Куба

МНР

ПНР

СРР

СССР

Декабрь 1979 г.

Декабрь 1979 г.

ЧССР

Декабрь 1978 г.

Декабрь 1978 г.

5. Срок первой проверки - 1981 г., периодичность проверки - 5 лет.

При округлении оставляют лишь верные знаки, остальные отбрасывают.

Правило 1. Округление достигается простым отбрасыванием цифр, если первая из отбрасываемых цифр меньше, чем 5.

Правило 2. Если первая из отбрасываемых цифр больше, чем 5, то последняя цифра увеличивается на единицу. Последняя цифра увеличивается также и в том случае, когда первая из отбрасываемых цифр 5, а за ней есть одна или несколько цифр, отличных от нуля. Например, различные округления числа 35,856 будут 35,86; 35,9; 36.

Правило 3. Если отбрасываемая цифра равна 5, а за ней нет значащих цифр, то округление производится на ближайшее четное число, т.е. последняя сохраняемая цифра остается неизменной, если она четная и увеличивается на единицу, если она нечетная. Например, 0,435 округляем до 0,44; 0,465 округляем до 0,46.

8. ПРИМЕР ОБРАБОТКИ РЕЗУЛЬТАТОВ ИЗМЕРЕНИЙ

Определение плотности твердых тел. Предположим, твердое тело имеет форму цилиндра. Тогда плотность ρ может быть определена по формуле:

где D – диаметр цилиндра, h – его высота, m – масса.

Пусть в результате измерений m, D, и h получены следующие данные:

№ п/п m, г Δm, г D, мм ΔD, мм h, мм Δh, мм , г/см 3 Δ , г/см 3
51,2 0,1 12,68 0,07 80,3 0,15 5,11 0,07 0,013
12,63 80,2
12,52 80,3
12,59 80,2
12,61 80,1
среднее 12,61 80,2 5,11

Определим среднее значение D̃:

Найдем погрешности отдельных измерений и их квадраты

Определим среднюю квадратичную погрешность серии измерений:

Задаем значение надежности α = 0,95 и по таблице находим коэффициент Стьюдента t α . n =2,8 (для n = 5). Определяем границы доверительного интервала:



Так как вычисленное значение ΔD = 0,07 мм значительно превышает абсолютную ошибку микрометра, равную 0,01 мм (измерение производится микрометром), то полученное значение может служить оценкой границы доверительного интервала:

D = D ̃ ± ΔD ; D = (12,61 ±0,07) мм.

Определим значение h̃:

Следовательно:

Для α = 0,95 и n = 5 коэффициент Стьюдента t α , n = 2,8.

Определяем границы доверительного интервала

Так как полученное значение Δh = 0,11 мм того же порядка, что и ошибка штангенциркуля, равная 0,1 мм (измерение h производится штангенциркулем), то границы доверительного интервала следует определить по формуле:

Следовательно:

Вычислим среднее значение плотности ρ:

Найдем выражение для относительной погрешности:

где

7. ГОСТ 16263-70 Метрология. Термины и определения.

8. ГОСТ 8.207-76 Прямые измерения с многократными наблюдениями. Методы обработки результатов наблюдений.

9. ГОСТ 11.002-73 (ст. СЭВ 545-77) Правила оценки аномальности результатов наблюдений.


Царьковская Надежда Ивановна

Сахаров Юрий Георгиевич

Общая физика

Методические указания к выполнению лабораторных работ «Введение в теорию погрешностей измерений» для студентов всех специальностей

Формат 60*84 1/16 Объем 1 уч.-изд. л. Тираж 50 экз.

Заказ ______ Бесплатно

Брянская государственная инженерно-технологическая академия

Брянск, проспект Станке Димитрова, 3, БГИТА,

Редакционно-издательский отдел

Отпечатано – подразделение оперативной печати БГИТА

Предположим, что вы хотите округлить число до ближайшего целого, так как десятичные значения вам не важны, или представить число в виде степени 10, чтобы упростить приблизительные вычисления. Существует несколько способов округления чисел.

Изменение количества знаков после запятой без изменения значения

На листе

Во встроенном числовом формате

Округление числа вверх

Округление числа до ближайшего значения

Округление числа до ближайшего дробного значения

Округление числа до указанного количества значимых разрядов

Значимые разряды - это разряды, которые влияют на точность числа.

В примерах этого раздела используются функции ОКРУГЛ , ОКРУГЛВВЕРХ и ОКРУГЛВНИЗ . Они показывают способы округления положительных, отрицательных, целых и дробных чисел, но приведенные примеры охватывают лишь небольшую часть возможных ситуаций.

В приведенном ниже списке содержатся общие правила, которые необходимо учитывать при округлении чисел до указанного количества значимых разрядов. Вы можете поэкспериментировать с функциями округления и подставить собственные числа и параметры, чтобы получить число с нужным количеством значимых разрядов.

    Округляемые отрицательные числа прежде всего преобразуются в абсолютные значения (значения без знака "минус"). После округления знак "минус" применяется повторно. Хотя это может показаться нелогичным, именно так выполняется округление. Например, при использовании функции ОКРУГЛВНИЗ для округления числа -889 до двух значимых разрядов результатом является число -880. Сначала -889 преобразуется в абсолютное значение (889). Затем это значение округляется до двух значимых разрядов (880). После этого повторно применяется знак "минус", что дает в результате -880.

    При применении к положительному числу функции ОКРУГЛВНИЗ оно всегда округляется вниз, а при применении функции ОКРУГЛВВЕРХ - вверх.

    Функция ОКРУГЛ округляет дробные числа следующим образом: если дробная часть больше или равна 0,5, число округляется вверх. Если дробная часть меньше 0,5, число округляется вниз.

    Функция ОКРУГЛ округляет целые числа вверх или вниз аналогичным образом, при этом вместо делителя 0,5 используется 5.

    В общем при округлении числа без дробной части (целого числа) необходимо вычесть длину числа из нужного количества значимых разрядов. Например, чтобы округлить 2345678 вниз до 3 значимых разрядов, используется функция ОКРУГЛВНИЗ с параметром -4: = ОКРУГЛВНИЗ(2345678,-4) . При этом число округляется до значения 2340000, где часть "234" представляет собой значимые разряды.

Округление числа до заданного кратного

Иногда может потребоваться округлить значение до кратного заданному числу. Например, допустим, что компания поставляет товары в ящиках по 18 единиц. С помощью функции ОКРУГЛТ можно определить, сколько ящиков потребуется для поставки 204 единиц товара. В данном случае ответом является 12, так как число 204 при делении на 18 дает значение 11,333, которое необходимо округлить вверх. В 12-м ящике будет только 6 единиц товара.

Может также потребоваться округлить отрицательное значение до кратного отрицательному или дробное - до кратного дробному. Для этого также можно применять функцию ОКРУГЛТ .

Методы

В разных сферах могут применяться различные методы округления. Во всех этих методах «лишние» знаки обнуляют (отбрасывают), а предшествующий им знак корректируется по какому-либо правилу.

  • Округление к ближайшему целому (англ. rounding ) - наиболее часто используемое округление, при котором число округляется до целого, модуль разности с которым у этого числа минимален. В общем случае, когда число в десятичной системе округляют до N-ого знака, правило может быть сформулировано следующим образом:
    • если N+1 знак < 5 , то N-ый знак сохраняют, а N+1 и все последующие обнуляют;
    • если N+1 знак ≥ 5 , то N-ый знак увеличивают на единицу, а N+1 и все последующие обнуляют;
    Например: 11,9 → 12; −0,9 → −1; −1,1 → −1; 2,5 → 3.
  • Округление к меньшему по модулю (округление к нулю, целое англ. fix, truncate, integer ) - самое «простое» округление, поскольку после обнуления «лишних» знаков предшествующий знак сохраняют. Например, 11,9 → 11; −0,9 → 0; −1,1 → −1).
  • Округление к большему (округление к +∞, округление вверх, англ. ceiling ) - если обнуляемые знаки не равны нулю, предшествующий знак увеличивают на единицу, если число положительное, или сохраняют, если число отрицательное. В экономическом жаргоне - округление в пользу продавца , кредитора (лица, получающего деньги). В частности, 2,6 → 3, −2,6 → −2.
  • Округление к меньшему (округление к −∞, округление вниз, англ. floor ) - если обнуляемые знаки не равны нулю, предшествующий знак сохраняют, если число положительное, или увеличивают на единицу, если число отрицательное. В экономическом жаргоне - округление в пользу покупателя , дебитора (лица, отдающего деньги). Здесь 2,6 → 2, −2,6 → −3.
  • Округление к большему по модулю (округление к бесконечности, округление от нуля) - относительно редко используемая форма округления. Если обнуляемые знаки не равны нулю, предшествующий знак увеличивают на единицу.

Варианты округления 0,5 к ближайшему целому

Отдельного описания требуют правила округления для специального случая, когда (N+1)-й знак = 5, а последующие знаки равны нулю . Если во всех остальных случаях округление до ближайшего целого обеспечивает меньшую погрешность округления, то данный частный случай характерен тем, что для однократного округления формально безразлично, производить его «вверх» или «вниз» - в обоих случаях вносится погрешность ровно в 1/2 младшего разряда. Существуют следующие варианты правила округления до ближайшего целого для данного случая:

  • Математическое округление - округление всегда в бо́льшую по модулю сторону (предыдущий разряд всегда увеличивается на единицу).
  • Банковское округление (англ. banker"s rounding ) - округление для этого случая происходит к ближайшему чётному , то есть 2,5 → 2, 3,5 → 4.
  • Случайное округление - округление происходит в меньшую или большую сторону в случайном порядке, но с равной вероятностью (может использоваться в статистике).
  • Чередующееся округление - округление происходит в меньшую или большую сторону поочерёдно.

Во всех вариантах в случае, когда (N+1)-й знак не равен 5 или последующие знаки не равны нулю, округление происходит по обычным правилам: 2,49 → 2; 2,51 → 3.

Математическое округление просто формально соответствует общему правилу округления (см. выше). Его недостатком является то, что при округлении большого числа значений может происходить накопление ошибки округления . Типичный пример: округление до целых рублей денежных сумм. Так, если в реестре из 10000 строк окажется 100 строк с суммами, содержащими в части копеек значение 50 (а это вполне реальная оценка), то при округлении всех таких строк «вверх» сумма «итого» по округлённому реестру окажется на 50 рублей больше точной.

Три остальных варианта как раз и придуманы для того, чтобы уменьшить общую погрешность суммы при округлении большого количества значений. Округление «до ближайшего чётного» исходит из предположения, что при большом числе округляемых значений, имеющих 0,5 в округляемом остатке, в среднем половина окажется слева, а половина - справа от ближайшего чётного, таким образом, ошибки округления взаимно погасятся. Строго говоря, предположение это верно лишь тогда, когда набор округляемых чисел обладает свойствами случайного ряда, что обычно верно в бухгалтерских приложениях, где речь идёт о ценах, суммах на счетах и так далее. Если же предположение будет нарушено, то и округление «до чётного» может приводить к систематическим ошибкам. Для таких случаев лучше работают два следующих метода.

Два последних варианта округления гарантируют, что примерно половина специальных значений будет округлена в одну сторону, половина - в другую. Но реализация таких методов на практике требует дополнительных усилий по организации вычислительного процесса.

Применения

Округление используется для того, чтобы работать с числами в пределах того количества знаков, которое соответствует реальной точности параметров вычислений (если эти значения представляют собой измеренные тем или иным образом реальные величины), реально достижимой точности вычислений либо желаемой точности результата. В прошлом округление промежуточных значений и результата имело прикладное значение (так как при расчётах на бумаге или с помощью примитивных устройств типа абака учёт лишних десятичных знаков может серьёзно увеличить объём работы). Сейчас оно остаётся элементом научной и инженерной культуры. В бухгалтерских приложениях, кроме того, использование округлений, в том числе промежуточных, может требоваться для защиты от вычислительных ошибок, связанных с конечной разрядностью вычислительных устройств.

Использование округлений при работе с числами ограниченной точности

Реальные физические величины всегда измеряются с некоторой конечной точностью, которая зависит от приборов и методов измерения и оценивается максимальным относительным или абсолютным отклонением неизвестного действительного значения от измеренного, что в десятичном представлении значения соответствует либо определённому числу значащих цифр, либо определённой позиции в записи числа, все цифры после (правее) которой являются незначащими (лежат в пределах ошибки измерения). Сами измеренные параметры записываются с таким числом знаков, чтобы все цифры были надёжными, возможно, последняя - сомнительной. Погрешность при математических операциях с числами ограниченной точности сохраняется и изменяется по известным математическим законам, поэтому когда в дальнейших вычислениях возникают промежуточные значения и результаты с больши́м числом цифр, из этих цифр только часть являются значимыми. Остальные цифры, присутствуя в значениях, фактически не отражают никакой физической реальности и лишь отнимают время на вычисления. Вследствие этого промежуточные значения и результаты при вычислениях с ограниченной точностью округляют до того количества знаков, которое отражает реальную точность полученных значений. На практике обычно рекомендуется при длинных «цепочных» ручных вычислениях сохранять в промежуточных значениях на одну цифру больше. При использовании компьютера промежуточные округления в научно-технических приложениях чаще всего теряют смысл, и округляется только результат.

Так, например, если задана сила 5815 гс с точностью до грамма силы и длина плеча 1,4 м с точностью до сантиметра, то момент силы в кгс по формуле , в случае формального расчёта со всеми знаками, окажется равным: 5,815 кгс 1,4 м = 8,141 кгс м . Однако если учесть погрешность измерения, то мы получим, что предельная относительная погрешность первого значения составляет 1/5815 ≈ 1,7 10 −4 , второго - 1/140 ≈ 7,1 10 −3 , относительная погрешность результата по правилу погрешности операции умножения (при умножении приближённых величин относительные погрешности складываются) составит 7,3 10 −3 , что соответствует максимальной абсолютной погрешности результата ±0,059 кгс м! То есть в реальности, с учётом погрешности, результат может составлять от 8,082 до 8,200 кгс м, таким образом, в рассчитанном значении 8,141 кгс м полностью надёжной является только первая цифра, даже вторая - уже сомнительна! Корректным будет округление результата вычислений до первой сомнительной цифры, то есть до десятых: 8,1 кгс м, или, при необходимости более точного указания рамок погрешности, представить его в виде, округлённом до одного-двух знаков после запятой с указанием погрешности: 8,14 ± 0,06 кгс м .

Эмпирические правила арифметики с округлениями

В тех случаях, когда нет необходимости в точном учёте вычислительных погрешностей, а требуется лишь приблизительно оценить количество точных цифр в результате расчёта по формуле, можно пользоваться набором простых правил округлённых вычислений :

  1. Все исходные значения округляются до реальной точности измерений и записываются с соответствующим числом значащих цифр, так, чтобы в десятичной записи все цифры были надёжными (допускается, чтобы последняя цифра была сомнительной). При необходимости значения записываются со значащими правыми нулями, чтобы в записи указывалось реальное число надёжных знаков (например, если длина в 1 м реально измерена с точностью до сантиметров, записывается «1,00 м», чтобы было видно, что в записи надёжны два знака после запятой), или точность явно указывается (например, 2500±5 м - здесь надёжными являются только десятки, до них и следует округлять).
  2. Промежуточные значения округляются с одной «запасной» цифрой.
  3. При сложении и вычитании результат округляется до последнего десятичного знака наименее точного из параметров (например, при вычислении значения 1,00 м + 1,5 м + 0,075 м результат округляется до десятых метра, то есть до 2,6 м). При этом рекомендуется выполнять вычисления в таком порядке, чтобы избегать вычитания близких по величине чисел и производить действия над числами по возможности в порядке возрастания их модулей.
  4. При умножении и делении результат округляется до наименьшего числа значащих цифр, которое имеют параметры (например, при вычислении скорости равномерного движения тела на дистанции 2,5 10 2 м, за 600 с результат должен быть округлён до 4,2 м/с, поскольку именно две цифры имеет расстояние, а время - три, предполагая, что все цифры в записи - значащие).
  5. При вычислении значения функции f(x) требуется оценить значение модуля производной этой функции в окрестности точки вычисления. Если (|f"(x)| ≤ 1) , то результат функции точен до того же десятичного разряда, что и аргумент. В противном случае результат содержит меньше точных десятичных разрядов на величину log 10 (|f"(x)|) , округлённую до целого в большую сторону.

Несмотря на нестрогость, приведённые правила достаточно хорошо работают на практике, в частности, из-за достаточно высокой вероятности взаимопогашения ошибок, которая при точном учёте погрешностей обычно не учитывается.

Ошибки

Довольно часто встречаются злоупотребления некруглыми числами. Например:

  • Записывают числа, имеющие невысокую точность, в неокруглённом виде. В статистике: если 4 человека из 17 ответили «да», то пишут «23,5 %» (в то время как верно «24 %»).
  • Пользователи стрелочных приборов иногда размышляют так: «стрелка остановилась между 5,5 и 6 ближе к 6, пусть будет 5,8» - это также запрещено (градуировка прибора как правило соответствует его реальной точности). В таком случае надо говорить «5,5» или «6».

См. также

  • Обработка наблюдений
  • Ошибки округления

Примечания

Литература

  • Генри С. Уоррен, мл. Глава 3. Округление к степени 2 // Алгоритмические трюки для программистов = Hacker"s Delight. - М .: «Вильямс», 2007. - С. 288. - ISBN 0-201-91465-4

Введение.............................................................................................................

ЗАДАЧА № 1. Ряды предпочтительных чисел...............................................

ЗАДАЧА № 2. Округление результатов измерений.......................................

ЗАДАЧА № 3. Обработка результатов измерений.........................................

ЗАДАЧА № 4. Допуски и посадки гладких цилиндрических соединений...

ЗАДАЧА № 5. Допуски формы и расположения...........................................

ЗАДАЧА № 6. Шероховатость поверхности.................................................

ЗАДАЧА № 7. Размерные цепи........................................................................

Список литературы............................................................................................

Задача № 1. Округление результатов измерений

При выполнении измерений важно соблюдать определенные правила округления и записи их результатов в технической документации, так как при несоблюдении этих правил возможны существенные ошибки в интерпретации результатов измерений.

Правила записи чисел

1. Значащие цифры данного числа - все цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.

Примеры.

а) Число 12,0 имеет три значащие цифры.

б) Число 30 имеет две значащие цифры.

в) Число 12010 8 имеет три значащие цифры.

г) 0,51410 -3 имеет три значащие цифры.

д) 0,0056 имеет две значащие цифры.

2. Если необходимо указать, что число является точным, после числа указывают слово "точно" или последнюю значащую цифру печатают жирным шрифтом. Например: 1 кВт / ч = 3600 Дж (точно) или 1 кВт / ч = 3600 Дж.

3. Различают записи приближенных чисел по количеству значащих цифр. Например, различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382. Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,810 2 . Если в числе 4720 верны лишь две первые цифры, оно должно быть записано в виде: 4710 2 или 4,710 3 .

4. Число, для которого указывают допустимое отклонение, должно иметь последнюю значащую цифру того же разряда, как и последняя значащая цифра отклонения.

Примеры.

а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.

б) Правильно: 12,13+ 0,17. Неправильно: 12,13+ 0,2.

в) Правильно: 46,40+ 0,15. Неправильно: 46,4+ 0,15 или 46,402+ 0,15.

5. Числовые значения величины и её погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы величины. Например: (80,555 + 0,002) кг.

6. Интервалы между числовыми значениями величин иногда целесообразно записывать в текстовом виде, тогда предлог "от" означает "", предлог "до"– "", предлог "свыше" – ">", предлог "менее" – "<":

"d принимает значения от 60 до 100" означает "60d 100",

"d принимает значения свыше 120 менее 150" означает "120 <d < 150",

"d принимает значения свыше 30 до 50" означает "30 <d 50".

Правила округления чисел

1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда.

2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют.

Пример: Округление числа 12,23 до трех значащих цифр дает 12,2.

3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,145 до двух цифр дает 0,15.

Примечание . В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом.

4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды) , иначе – наоборот. Это касается и дробных и целых чисел.

Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3.

4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу.

Пример: Округление числа 0,156 до двух значащих цифр дает 0,16.

5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам.

Пример: Округление числа 565,46 до трех значащих цифр дает 565.

6. Целые числа округляют по тем же правилам, что и дробные.

Пример: Округление числа 23456 до двух значащих цифр дает 2310 3

Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15.

7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример: 442,749+ 0,4 округляется до 442,7+ 0,4.

8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5.

9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример: Поэтапное округление результата измерения 220,46+ 4 дает на первом этапе 220,5+ 4 и на втором 221+ 4, в то время как правильный результат округления 220+ 4.

10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 3050 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра.

Пример: На вольтметре класса точности 2,5 с пределом измерений х К = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете?

Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность х =  0 х К /100, для приведенной погрешности вольтметра  0 = 2,5 % и пределов измерения (диапазона измерения) прибора х К = 300 В: х = 2,5300/100 = 7,5 В ~ 8 В; относительная погрешность  = х 100/х = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано  = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт.

Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью = 2,8 % . Измеренное напряжениеХ = (268+ 8) В".

При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260276) В или 260 ВX276 В.