Tento štandard RVHP stanovuje pravidlá pre zaznamenávanie a zaokrúhľovanie čísel vyjadrených v sústave desiatkových čísel.

Pravidlá pre zaznamenávanie a zaokrúhľovanie čísel ustanovené v tejto norme RVHP sú určené na použitie v regulačnej, technickej, projektovej a technologickej dokumentácii.

Táto norma RVHP sa nevzťahuje na špeciálne pravidlá zaokrúhľovania stanovené v iných normách RVHP.

1. PRAVIDLÁ ZÁZNAMU ČÍSEL

1.1. Významné číslice daného čísla sú všetky číslice od prvej nenulovej číslice vľavo po poslednú číslicu napísanú vpravo. V tomto prípade sa nuly vyplývajúce z faktora 10 n neberú do úvahy.

1.2. Ak je potrebné uviesť, že číslo je presné, za číslom sa musí uviesť slovo „presne“ alebo sa posledná platná číslica vytlačí tučným písmom

Príklad. V tlačenom texte:

1 kWh = 3 600 000 J (presne) alebo = 3 600 000 J

1.3. Záznamy približných čísel je potrebné rozlišovať podľa počtu platných číslic.

Príklady:

1. Treba rozlišovať medzi číslami 2.4 a 2.40. Záznam 2.4 znamená, že správne sú iba celé čísla a desatiny; skutočná hodnota čísla môže byť napríklad 2,43 a 2,38. Záznam 2,40 znamená, že sú pravdivé aj stotiny čísla; skutočné číslo môže byť 2,403 a 2,398, ale nie 2,421 alebo 2,382.

2. Záznam 382 znamená, že všetky čísla sú správne; ak za poslednú číslicu nie je možné ručiť, potom číslo napíšte 3,8·10 2 .

3. Ak sú v čísle 4720 správne iba prvé dve číslice, treba napísať 47 10 2 alebo 4,7 10 3.

1.4. Číslo, pre ktoré je uvedená tolerancia, musí mať posledné významná postava rovnaká číslica ako posledná platná číslica odchýlky.

Príklady:

1.5. Je účelné zaznamenávať číselné hodnoty veličiny a jej chyby (odchýlky) s uvedením rovnakej jednotky fyzikálnych veličín.

Príklad. 80,555±0,002 kg

1.6. Intervaly medzi číselnými hodnotami veličín by sa mali zapísať:

60 až 100 alebo 60 až 100

Viac ako 100 až 120 alebo viac ako 100 až 120

Viac ako 120 až 150 alebo viac ako 120 až 150.

1.7. Číselné hodnoty množstiev musia byť v normách uvedené s rovnakým počtom číslic, čo je potrebné na zabezpečenie požadovaného prevádzkové vlastnosti a kvalitu produktu. Záznam číselných hodnôt množstiev až po prvé, druhé, tretie, atď. desatinné miesto pre rôzne veľkosti, typy značiek produktov s rovnakým názvom by mal byť spravidla rovnaký. Napríklad, ak je odstupňovanie hrúbky oceľového pásu valcovaného za tepla 0,25 mm, potom musí byť celý rozsah hrúbok pásu špecifikovaný na dve desatinné miesta.

V závislosti od technických charakteristík a účelu produktu môže mať počet desatinných miest číselných hodnôt hodnôt rovnakého parametra, veľkosti, indikátora alebo normy niekoľko úrovní (skupín) a mal by byť rovnaký v rámci tejto úrovne (skupiny).

2. PRAVIDLÁ ZAKÚROVANIA

2.1. Zaokrúhlenie čísla je odmietnutie platných číslic doprava na určitú číslicu s možnou zmenou číslice tejto číslice.

Príklad. Zaokrúhlenie 132,48 na štyri platné číslice je 132,5.

2.2. Ak je prvá z vyradených číslic (počítanie zľava doprava) menšia ako 5, posledná uložená číslica sa nezmení.

Príklad. Zaokrúhlením 12,23 na tri platné číslice dostaneme 12,2.

2.3. Ak sa prvá z vyradených číslic (počítajúc zľava doprava) rovná 5, posledná uložená číslica sa zvýši o jednu.

Príklad. Zaokrúhlením 0,145 na dve platné číslice dostaneme 0,15.

Poznámka. V prípadoch, keď by sa mali zohľadniť výsledky predchádzajúcich zaokrúhľovaní, postupujte takto:

1) ak bola vyradená číslica získaná v dôsledku predchádzajúceho zaokrúhlenia nahor, uloží sa posledná uložená číslica;

Príklad. Zaokrúhlením na jedno platné číslo číslo 0,15 (získané po zaokrúhlení čísla 0,149) dostaneme 0,1.

2) ak bola vyradená číslica získaná v dôsledku predchádzajúceho zaokrúhlenia nadol, posledná zostávajúca číslica sa zvýši o jednu (s prechodom, ak je to potrebné, na ďalšie číslice).

Príklad. Zaokrúhlením čísla 0,25 (získaného z predchádzajúceho zaokrúhlenia čísla 0,252) dostaneme 0,3.

2.4. Ak je prvá z vyradených číslic (počítanie zľava doprava) väčšia ako 5, posledná uložená číslica sa zvýši o jednu.

Príklad. Zaokrúhlením 0,156 na dve platné číslice dostaneme 0,16.

2.5. Zaokrúhľovanie by sa malo vykonávať okamžite na požadovaný počet platných číslic, a nie postupne.

Príklad. Zaokrúhlenie čísla 565,46 na tri platné číslice sa vykoná priamo číslom 565. Zaokrúhlenie po etapách by viedlo k:

565,46 v I. etape - až 565,5,

a v štádiu II - 566 (chybne).

2.6. Celé čísla sa zaokrúhľujú rovnakým spôsobom ako zlomkové čísla.

Príklad. Zaokrúhlením čísla 12456 na dve platné číslice dostaneme 12·10 3 .

Predmet 01.693.04-75.

3. Štandard RVHP bol schválený na 41. zasadnutí PCC.

4. Dátumy začiatku uplatňovania normy RVHP:

5. Termín prvej kontroly je 1981, frekvencia kontrol je 5 rokov.

Pri zaokrúhľovaní ponechajte iba pravé znamenia, zvyšok sa zahodí.

Pravidlo 1. Zaokrúhľovanie sa dosiahne jednoduchým vyradením číslic, ak je prvá z vyradených číslic menšia ako 5.

Pravidlo 2. Ak je prvá z vyradených číslic väčšia ako 5, potom sa posledná číslica zvýši o jednu. Posledná číslica sa tiež zvýši, keď prvá z vyradených číslic je 5, po ktorej nasleduje jedna alebo viacero nenulových číslic. Napríklad rôzne zaokrúhlenia čísla 35,856 by boli 35,86; 35,9; 36.

Pravidlo 3. Ak je vyradená číslica 5 a za ňou nie sú žiadne platné číslice, potom sa zaokrúhľuje na najbližšie párne číslo, t.j. posledná uložená číslica zostane nezmenená, ak je párna, a zvýši sa o jednu, ak je nepárna. Napríklad 0,435 sa zaokrúhľuje na 0,44; 0,465 sa zaokrúhľuje na 0,46 nahor.

8. PRÍKLAD SPRACOVANIA VÝSLEDKOV MERANIA

Stanovenie hustoty pevných látok. Predpokladajme, že tuhé teleso má tvar valca. Potom možno hustotu ρ určiť podľa vzorca:

kde D je priemer valca, h je jeho výška, m je hmotnosť.

Nech sa ako výsledok meraní m, D a h získajú nasledujúce údaje:

Definujme strednú hodnotu D:

Nájdite chyby jednotlivých meraní a ich druhé mocniny

Určme odmocninu zo série meraní:

Nastavíme hodnotu spoľahlivosti α = 0,95 a z tabuľky zistíme Studentov koeficient t α. n = 2,8 (pre n = 5). Určíme hranice intervalu spoľahlivosti:

Keďže vypočítaná hodnota ΔD = 0,07 mm výrazne presahuje absolútnu chybu mikrometra rovnajúcu sa 0,01 mm (merané mikrometrom), výsledná hodnota môže slúžiť ako odhad hranice intervalu spoľahlivosti:

D = D̃ ± Δ D; D= (12,61 ± 0,07) mm.

Definujme hodnotu h̃:

teda:

Pre α = 0,95 an = 5 Studentov koeficient t α je n = 2,8.

Určenie hraníc intervalu spoľahlivosti

Pretože získaná hodnota Δh = 0,11 mm je rovnakého rádu ako chyba posuvného meradla rovná 0,1 mm (h sa meria posuvným meradlom), hranice intervalu spoľahlivosti by sa mali určiť podľa vzorca:

teda:

Vypočítajme priemernú hodnotu hustoty ρ:

Poďme nájsť výraz pre relatívnu chybu:

kde

7. GOST 16263-70 Metrológia. Pojmy a definície.

8. GOST 8.207-76 Priame merania s viacnásobnými pozorovaniami. Metódy spracovania výsledkov pozorovaní.

9. GOST 11.002-73 (čl. SEV 545-77) Pravidlá hodnotenia anomálnych výsledkov pozorovaní.

Carkovskaja Nadežda Ivanovna

Sacharov Jurij Georgievič

Všeobecná fyzika

Smernice k naplneniu laboratórne práce„Úvod do teórie chýb merania“ pre študentov všetkých odborov

Formát 60*84 1/16 Volume 1 app.-ed. l. Náklad 50 kópií.

Objednajte si ______ zadarmo

Bryanská štátna inžinierska a technologická akadémia

Bryansk, Stanke Dimitrova Avenue, 3, BGITA,

Redakčné a vydavateľské oddelenie

Vytlačené - Prevádzková tlačová jednotka BGITA

Povedzme, že chcete zaokrúhliť číslo na najbližšie celé číslo, pretože vás nezaujímajú desatinné hodnoty, alebo chcete číslo znázorniť ako mocninu 10, aby ste uľahčili aproximáciu výpočtov. Existuje niekoľko spôsobov, ako zaokrúhliť čísla.

Zmena počtu desatinných miest bez zmeny hodnoty

Na liste

Vo vstavanom formáte čísla

Zaokrúhľovanie nahor

Zaokrúhlenie čísla na najbližšiu hodnotu

Zaokrúhlenie čísla na najbližšiu zlomkovú hodnotu

Zaokrúhlenie čísla na zadaný počet platných číslic

Významné číslice sú číslice, ktoré ovplyvňujú presnosť čísla.

Príklady v tejto časti používajú funkcie OKRÚHLY, ROUNDUP a ZAKRÚHNUTIE NADOL. Ukazujú spôsoby zaokrúhľovania kladných, záporných, celých a zlomkových čísel, ale uvedené príklady pokrývajú iba malú časť možných situácií.

Nižšie uvedený zoznam obsahuje všeobecné pravidlá, ktoré je potrebné zohľadniť pri zaokrúhľovaní čísel na určený počet platných číslic. Môžete experimentovať s funkciami zaokrúhľovania a nahradiť svoje vlastné čísla a parametre, aby ste získali číslo s požadovaným počtom platných číslic.

Zaoblené záporné čísla sa najskôr prevedú na absolútne hodnoty (hodnoty bez znamienka mínus). Po zaokrúhlení sa znova použije znamienko mínus. Aj keď sa to môže zdať neintuitívne, takto funguje zaokrúhľovanie. Napríklad pri použití funkcie ZAKRÚHNUTIE NADOL zaokrúhlite -889 na dve platné číslice, výsledkom je -880. Najprv sa -889 prevedie na absolútnu hodnotu (889). Táto hodnota sa potom zaokrúhli na dve platné číslice (880). Potom sa znova použije znamienko mínus, výsledkom čoho je -880.

Pri aplikácii na kladné číslo funkcie ZAKRÚHNUTIE NADOL vždy sa zaokrúhľuje nadol a pri použití funkcie ROUNDUP- hore.

Funkcia OKRÚHLY zaokrúhľuje zlomkové čísla nasledovne: ak je zlomková časť väčšia alebo rovná 0,5, číslo sa zaokrúhli nahor. Ak je zlomková časť menšia ako 0,5, číslo sa zaokrúhli nadol.

Funkcia OKRÚHLY zaokrúhli celé čísla nahor alebo nadol rovnakým spôsobom, pričom namiesto 0,5 použije 5.

Vo všeobecnosti platí, že pri zaokrúhľovaní čísla bez zlomkovej časti (celé číslo) musíte dĺžku čísla odpočítať od správne množstvo významné hodnosti. Ak chcete napríklad zaokrúhliť 2345678 nadol na 3 platné číslice, použite túto funkciu ZAKRÚHNUTIE NADOL s možnosťou -4: = ZAokrúhlené nadol(2345678,-4). Toto zaokrúhli číslo nahor na 2340000, kde časť „234“ sú platné číslice.

Zaokrúhlenie čísla na daný násobok

Niekedy možno budete chcieť zaokrúhliť hodnotu na násobok daného čísla. Povedzme napríklad, že spoločnosť dodáva tovar v krabiciach po 18 kusoch. Pomocou funkcie ROUND môžete určiť, koľko škatúľ bude potrebných na doručenie 204 položiek. V tomto prípade je odpoveď 12, pretože 204 pri delení 18 je 11,333, čo je potrebné zaokrúhliť nahor. V 12. boxe bude len 6 položiek.

Môže byť tiež potrebné zaokrúhliť negatívny význam do násobku záporu alebo zlomku - do násobku zlomku. Na to môžete použiť aj funkciu OKRÚHLY.

Metódy

Môže byť použitý v rôznych oblastiach rôzne metódy zaokrúhľovanie. Vo všetkých týchto metódach sa znamienka „navyše“ nastavia na nulu (vyradia sa) a znamienko, ktoré im predchádza, sa opraví podľa nejakého pravidla.

• Zaokrúhľuje sa na najbližšie celé číslo(Angličtina) zaokrúhľovanie) - najčastejšie používané zaokrúhľovanie, pri ktorom sa číslo zaokrúhľuje nahor na celé číslo, modul rozdielu, s ktorým má toto číslo minimum. Vo všeobecnosti, keď je číslo v desiatkovej sústave zaokrúhlené na N-té desatinné miesto, pravidlo môže byť formulované takto:
  • ak N+1 znakov< 5 , potom sa zachová N-té znamienko a N+1 a všetky nasledujúce sa nastavia na nulu;
  • ak N+1 znakov ≥ 5, potom sa N-té znamienko zvýši o jeden a N + 1 a všetky nasledujúce sa nastavia na nulu;
  Napríklad: 11,9 → 12; -0,9 -> -1; −1,1 → −1; 2,5 → 3.
• Zaokrúhlenie nadol modulo(zaokrúhlenie smerom k nule, celé číslo Eng. opraviť, skrátiť, celé číslo) je „najjednoduchšie“ zaokrúhľovanie, pretože po vynulovaní znamienka „navyše“ sa zachová predchádzajúce znamienko. Napríklad 11,9 → 11; −0,9 → 0; −1,1 → −1).
• Zaokrúhľovanie nahor(zaokrúhliť na +∞, zaokrúhliť nahor, angl. strop) - ak sa nulové znamienka nerovnajú nule, predchádzajúce znamienko sa zvýši o jednotku, ak je číslo kladné, alebo sa ponechá, ak je číslo záporné. V ekonomickom žargóne - zaokrúhľovanie v prospech predávajúceho, veriteľa(osoby prijímajúcej peniaze). Najmä 2,6 → 3, −2,6 → −2.
• Zaokrúhľovanie nadol(zaokrúhliť na −∞, zaokrúhliť nadol, angl. poschodie) - ak sa nulové znamienka nerovnajú nule, predchádzajúce znamienko sa zachová, ak je číslo kladné, alebo sa zvýši o jednotku, ak je číslo záporné. V ekonomickom žargóne - zaokrúhľovanie v prospech kupujúceho, dlžníka(osoba, ktorá dáva peniaze). Tu 2,6 → 2, −2,6 → −3.
• Zaokrúhľovanie modulo nahor(zaokrúhliť do nekonečna, zaokrúhliť od nuly) je pomerne zriedka používaná forma zaokrúhľovania. Ak sa znaky s hodnotou null nerovnajú nule, predchádzajúci znak sa zvýši o jednotku.

Možnosti zaokrúhľovania 0,5 na najbližšie celé číslo

Samostatný popis vyžadujú pravidlá zaokrúhľovania pre osobitný prípad, kedy (N+1)-tá číslica = 5 a nasledujúce číslice sú nula. Ak vo všetkých ostatných prípadoch zaokrúhlenie na najbližšie celé číslo poskytuje menšiu chybu zaokrúhľovania, potom toto špeciálny prípad Je charakteristické, že pri jedinom zaokrúhlení je formálne jedno, či ho vyrobíme „nahor“ alebo „nadol“ – v oboch prípadoch sa chyba zavedie presne v 1/2 najmenej významnej číslice. Pre tento prípad existujú nasledujúce varianty pravidla zaokrúhľovania na najbližšie celé číslo:

• Matematické zaokrúhľovanie- zaokrúhľuje sa vždy nahor (predchádzajúca číslica sa vždy zvýši o jednu).
• Bankové zaokrúhľovanie(Angličtina) bankové zaokrúhľovanie) - zaokrúhľovanie v tomto prípade nastáva na najbližšie párne číslo, t.j. 2,5 → 2, 3,5 → 4.
• Náhodné zaokrúhľovanie- zaokrúhľovanie nahor alebo nadol náhodné poradie, ale s rovnakou pravdepodobnosťou (možno použiť v štatistike).
• Alternatívne zaokrúhľovanie- Zaokrúhľovanie sa vyskytuje striedavo nahor alebo nadol.

Vo všetkých prípadoch, keď sa (N + 1) znamienko nerovná 5 alebo nasledujúce znamienka nie sú rovné nule, zaokrúhľovanie nastáva podľa zvyčajných pravidiel: 2,49 → 2; 2,51 → 3.

Matematické zaokrúhľovanie jednoducho formálne zodpovedá všeobecnému pravidlu zaokrúhľovania (pozri vyššie). Jeho nevýhodou je, že pri zaokrúhľovaní veľkého množstva hodnôt môže dôjsť k akumulácii. chyby zaokrúhľovania. Typický príklad: zaokrúhľovanie peňažných súm na celé ruble. Ak teda v registri 10 000 riadkov existuje 100 riadkov so sumami obsahujúcimi hodnotu 50 v kopejkách (a to je veľmi realistický odhad), potom keď sú všetky takéto riadky zaokrúhlené „nahor“, súčet „ celkom“ podľa zaokrúhleného registra bude o 50 rubľov viac ako presný .

Ďalšie tri možnosti sú len vymyslené, aby sa znížila celková chyba súčtu pri zaokrúhľovaní. Vysoké číslo hodnoty. Zaokrúhľovanie „na najbližšie párne číslo“ vychádza z predpokladu, že kedy veľké čísla zaokrúhlené hodnoty, ktoré majú v zaokrúhlenom zvyšku 0,5, bude v priemere polovica vľavo a polovica vpravo od najbližšieho párneho čísla, takže chyby zaokrúhľovania sa navzájom rušia. Presne povedané, tento predpoklad je pravdivý iba vtedy, keď má zaokrúhľovaná množina čísel vlastnosti náhodného radu, čo zvyčajne platí v účtovných aplikáciách, kde hovoríme o cenách, sumách na účtoch atď. Ak je predpoklad porušený, zaokrúhlenie „na párne“ môže viesť k systematickým chybám. V takýchto prípadoch najlepšie fungujú nasledujúce dve metódy.

Posledné dve možnosti zaokrúhľovania zabezpečia približne polovicu špeciálne hodnoty budú zaoblené jedným smerom, polovica zaoblené druhým smerom. Implementácia takýchto metód v praxi si však vyžaduje dodatočné úsilie na organizáciu výpočtového procesu.

Aplikácie

Zaokrúhľovanie slúži na prácu s číslami v rámci počtu číslic, ktorý zodpovedá skutočnej presnosti parametrov výpočtu (ak ide o skutočné hodnoty namerané tak či onak), reálne dosiahnuteľnej presnosti výpočtu, resp. požadovanú presnosť výsledku. V minulosti malo zaokrúhľovanie medzihodnoty a výsledku praktický význam (pretože pri výpočte na papieri alebo pri použití primitívnych zariadení, ako je počítadlo, môže zohľadňovanie ďalších desatinných miest vážne zvýšiť množstvo práce). Teraz zostáva prvkom vedeckej a inžinierskej kultúry. V účtovných aplikáciách sa navyše môže vyžadovať použitie zaokrúhľovania, vrátane medziľahlých, na ochranu pred výpočtovými chybami spojenými s konečnou bitovou kapacitou výpočtových zariadení.

Použitie zaokrúhľovania pri práci s číslami s obmedzenou presnosťou

Reálny fyzikálnych veličín sa vždy merajú s určitou konečnou presnosťou, ktorá závisí od prístrojov a metód merania a je odhadnutá maximálnou relatívnou alebo absolútnou odchýlkou ​​neznámej skutočnej hodnoty od nameranej, ktorá v desatinnom vyjadrení hodnoty zodpovedá buď určitému číslu platných číslic alebo na určitú pozíciu v číselnom zápise, všetky číslice za (vpravo), ktoré sú nevýznamné (ležia v rámci chyby merania). Samotné namerané parametre sú zaznamenané s takým počtom znakov, že všetky údaje sú spoľahlivé, možno ten posledný je pochybný. Chyba v matematických operáciách s číslami s obmedzenou presnosťou je zachovaná a mení sa podľa známych matematických zákonov, takže keď sa v ďalších výpočtoch objavia medzihodnoty a výsledky s veľkým počtom číslic, je významná iba časť týchto číslic. Zvyšné čísla, ktoré sú prítomné v hodnotách, v skutočnosti neodrážajú žiadnu fyzikálnu realitu a vyžadujú si čas len na výpočty. V dôsledku toho sú medzihodnoty a výsledky vo výpočtoch s obmedzenou presnosťou zaokrúhlené na počet desatinných miest, ktorý odráža skutočnú presnosť získaných hodnôt. V praxi sa zvyčajne odporúča uložiť ešte jednu číslicu v medzihodnotách pre dlhé "reťazové" manuálne výpočty. Pri použití počítača medziľahlé zaoblenia vo vedeckých a technických aplikáciách najčastejšie strácajú zmysel a zaokrúhľuje sa len výsledok.

Takže ak je napríklad sila 5815 gf daná s presnosťou na gram sily a dĺžka ramena 1,4 m s presnosťou na centimeter, potom moment sily v kgf podľa vzorca, v prípade formálneho výpočtu so všetkými znakmi sa bude rovnať: 5,815 kgf 1,4 m = 8,141 kgf m. Ak však vezmeme do úvahy chybu merania, potom dostaneme, že limitná relatívna chyba prvej hodnoty je 1/5815 ≈ 1,7 10 −4 , druhý - 1/140 ≈ 7,1 10 −3 , bude relatívna chyba výsledku podľa chybového pravidla operácie násobenia (pri násobení približných hodnôt sa relatívne chyby sčítajú) 7,3 10 −3 , čo zodpovedá maximálnej absolútnej chybe výsledku ±0,059 kgf m! To znamená, že v skutočnosti, berúc do úvahy chybu, môže byť výsledok od 8,082 do 8,200 kgf m, takže pri vypočítanej hodnote 8,141 kgf m je iba prvá číslica úplne spoľahlivá, dokonca aj druhá je už pochybná! Bude správne zaokrúhliť výsledok výpočtu na prvé pochybné číslo, to znamená na desatiny: 8,1 kgf m, alebo, ak je to potrebné, presnejšie označenie tolerancie chyby, uveďte ho vo forme zaokrúhlenej na jednu alebo dve desatinné miesta s označením chyby: 8,14 ± 0,06 kgf m.

Empirické pravidlá aritmetiky so zaokrúhľovaním

V prípadoch, keď nie je potrebné presne brať do úvahy výpočtové chyby, ale len približný odhad počtu presné čísla ako výsledok výpočtu podľa vzorca môžete použiť sadu jednoduché pravidlá zaokrúhlené výpočty:

1. Všetky nespracované hodnoty sú zaokrúhlené na skutočnú presnosť merania a zaznamenané s príslušným počtom platných číslic, takže všetky číslice v desatinnom zápise sú spoľahlivé (je dovolené, aby posledná číslica bola pochybná). V prípade potreby sa hodnoty zaznamenajú s výraznými pravými nulami, aby bol v zázname uvedený skutočný počet spoľahlivých znakov (napríklad ak je dĺžka 1 m skutočne meraná s presnosťou na centimeter, zapíše sa „1,00 m“ aby bolo vidieť, že dva znaky sú v zázname za desatinnou čiarkou spoľahlivé), alebo je presnosť výslovne uvedená (napríklad 2500 ± 5 m - tu sú spoľahlivé len desiatky a treba ich zaokrúhliť nahor).
2. Medzihodnoty sú zaokrúhlené na jednu „náhradnú“ číslicu.
3. Pri sčítaní a odčítaní sa výsledok zaokrúhľuje na posledné desatinné miesto najmenej presného z parametrov (napr. pri výpočte hodnoty 1,00 m + 1,5 m + 0,075 m sa výsledok zaokrúhli na desatiny metra, že je do 2,6 m). Zároveň sa odporúča vykonávať výpočty v takom poradí, aby sa predišlo odčítaniu blízkych čísel a vykonávať operácie s číslami, ak je to možné, vo vzostupnom poradí ich modulov.
4. Pri násobení a delení sa výsledok zaokrúhľuje nahor najmenšie číslo významné číslice, ktoré majú parametre (napríklad pri výpočte rýchlosti rovnomerného pohybu telesa vo vzdialenosti 2,5 10 2 m, po dobu 600 s, výsledok by mal byť zaokrúhlený nahor na 4,2 m / s, pretože sú dve číslice, ktoré majú vzdialenosť a čas - tri za predpokladu, že všetky číslice v položke sú významné).
5. Pri výpočte hodnoty funkcie f(x) je potrebné odhadnúť hodnotu modulu derivácie tejto funkcie v blízkosti výpočtového bodu. Ak (|f"(x)| ≤ 1), potom je výsledok funkcie presný na rovnaké desatinné miesto ako argument. V opačnom prípade bude výsledok obsahovať o čiastku menej presných desatinných miest log 10 (|f"(x)|), zaokrúhlené na najbližšie celé číslo.

Napriek neprísnosti vyššie uvedené pravidlá v praxi celkom dobre fungujú, a to najmä z dôvodu pomerne vysokej pravdepodobnosti vzájomného zrušenia chýb, na ktoré sa pri presnom zohľadnení chýb zvyčajne neberie ohľad.

Chyby

Pomerne často dochádza k zneužívaniu neokrúhlych čísel. Napríklad:

• Zapíšte si čísla, ktoré majú nízku presnosť, v nezaokrúhlenej forme. V štatistike: ak 4 ľudia zo 17 odpovedali „áno“, potom napíšu „23,5 %“ (zatiaľ čo „24 %“ je správne).
• Používatelia ukazovateľa niekedy myslia takto: „ukazovateľ sa zastavil medzi 5,5 a 6 bližšie k 6, nech je 5,8“ - to je tiež zakázané (stupnenie zariadenia zvyčajne zodpovedá jeho skutočnej presnosti). V tomto prípade musíte povedať „5,5“ alebo „6“.

pozri tiež

• Spracovanie pozorovania
• Chyby zaokrúhľovania

Poznámky

Literatúra

• Henry S. Warren, Jr. Kapitola 3// Algoritmické triky pre programátorov = Hacker's Delight. - M .: Williams, 2007. - S. 288. - ISBN 0-201-91465-4

Úloha č. 1. Zaokrúhlenie výsledkov meraní

Pri vykonávaní meraní je dôležité dodržiavať určité pravidlá zaokrúhľovania a zaznamenávať ich výsledky do technická dokumentácia, keďže pri nedodržaní týchto pravidiel sú možné výrazné chyby pri interpretácii výsledkov meraní.

Pravidlá písania čísel

1. Významné číslice daného čísla – všetky číslice od prvej zľava, ktorá sa nerovná nule, po poslednú sprava. V tomto prípade sa nuly vyplývajúce z faktora 10 neberú do úvahy.

Príklady.

číslo 12,0má tri platné číslice.

b) Číslo 30má dve platné číslice.

c) Číslo 12010 8 má tri platné číslice.

G) 0,51410 -3 má tri platné číslice.

e) 0,0056má dve platné číslice.

2. Ak je potrebné uviesť, že číslo je presné, za číslom sa uvedie slovo „presne“ alebo sa posledná platná číslica vytlačí tučným písmom. Napríklad: 1 kW/h = 3600 J (presne) alebo 1 kW/h = 360 0 J .

3. Rozlišujte záznamy o približných číslach podľa počtu platných číslic. Napríklad sa rozlišujú čísla 2,4 a 2,40. Zápis 2,4 znamená, že správne sú len celé čísla a desatiny, skutočná hodnota čísla môže byť napríklad 2,43 a 2,38. Zápis 2,40 znamená, že aj stotiny sú správne: skutočná hodnota čísla môže byť 2,403 a 2,398, ale nie 2,41 a nie 2,382. Záznam 382 znamená, že všetky číslice sú správne: ak za poslednú číslicu nie je možné ručiť, potom by sa malo číslo napísať 3,810 2 . Ak sú v čísle 4720 správne iba prvé dve číslice, malo by sa zapísať ako: 4710 2 alebo 4,710 3 .

4. Číslo, pre ktoré sa uvádza tolerancia, musí mať poslednú platnú číslicu rovnakej číslice ako posledná platná číslica odchýlky.

Príklady.

a) Správne: 17,0 + 0,2. Nesprávne: 17 + 0,2alebo 17,00 + 0,2.

b) Správne: 12,13+ 0,17. Nesprávne: 12,13+ 0,2.

c) Správne: 46,40+ 0,15. Nesprávne: 46,4+ 0,15alebo 46,402+ 0,15.

5. Číselné hodnoty množstva a jeho chyby (odchýlky) by sa mali zaznamenávať s uvedením rovnakej jednotky množstva. Napríklad: (80 555 + 0,002) kg.

6. Intervaly medzi číselnými hodnotami veličín je niekedy vhodné písať v textovej forme, potom predložka "od" znamená "", predložka "do" - "", predložka "nad" - ​​">", predložka "menej" - "<":

"d nadobúda hodnoty od 60 do 100“ znamená „60 d100",

"d nadobúda hodnoty nad 120 menšie ako 150“ znamená „120<d< 150",

"d nadobúda hodnoty nad 30 až 50“ znamená „30<d50".

Pravidlá zaokrúhľovania čísel

1. Zaokrúhlenie čísla je odmietnutie platných číslic napravo od určitej číslice s možnou zmenou číslice tejto číslice.

2. Ak je prvá z vyradených číslic (počítajúc zľava doprava) menšia ako 5, posledná uložená číslica sa nezmení.

Príklad: Zaokrúhlenie čísla 12,23udávajú až tri platné číslice 12,2.

3. Ak je prvá z vyradených číslic (počítajúc zľava doprava) 5, posledná uložená číslica sa zvýši o jednu.

Príklad: Zaokrúhlenie čísla 0,145do dvoch číslic 0,15.

Poznámka . V tých prípadoch, keď je potrebné zohľadniť výsledky predchádzajúcich zaokrúhľovaní, postupujte nasledovne.

4. Ak sa vyradená číslica získa zaokrúhlením nadol, posledná zostávajúca číslica sa zvýši o jednu (s prechodom, ak je to potrebné, na ďalšie číslice), v opačnom prípade naopak. To platí pre zlomkové aj celé čísla.

Príklad: Zaokrúhlenie čísla 0,25(získané ako výsledok predchádzajúceho zaokrúhlenia čísla 0,252) dáva 0,3.

4. Ak je prvá z vyradených číslic (počítajúc zľava doprava) viac ako 5, posledná uložená číslica sa zvýši o jednu.

Príklad: Zaokrúhlenie čísla 0,156udávajú až dve platné číslice 0,16.

5. Zaokrúhľovanie sa vykonáva okamžite na požadovaný počet platných číslic a nie postupne.

Príklad: Zaokrúhlenie čísla 565,46udávajú až tri platné číslice 565.

6. Celé čísla sa zaokrúhľujú podľa rovnakých pravidiel ako zlomkové.

Príklad: Zaokrúhlenie čísla 23456udávajú až dve platné číslice 2310 3

Číselná hodnota výsledku merania musí končiť číslicou s rovnakou číslicou ako chybová hodnota.

Príklad:číslo 235,732 + 0,15treba zaokrúhliť nahor 235,73 + 0,15ale nie skôr 235,7 + 0,15.

7. Ak je prvá z vyradených číslic (počítajúc zľava doprava) menšia ako päť, zostávajúce číslice sa nezmenia.

Príklad: 442,749+ 0,4zaokrúhlené nahor 442,7+ 0,4.

8. Ak je prvá z vyradených číslic väčšia alebo rovná päť, potom sa posledná ponechaná číslica zvýši o jednu.

Príklad: 37,268 + 0,5zaokrúhlené nahor 37,3 + 0,5; 37,253 + 0,5 musí byť zaoblenépredtým 37,3 + 0,5.

9. Zaokrúhľovanie by sa malo vykonať okamžite na požadovaný počet platných číslic, prírastkové zaokrúhľovanie môže viesť k chybám.

Príklad: Postupné zaokrúhľovanie výsledku merania 220,46+ 4dáva v prvom kroku 220,5+ 4a na druhom 221+ 4, pričom správny výsledok zaokrúhľovania je 220+ 4.

10. Ak je chyba meracích prístrojov označená len jednou alebo dvoma platnými číslicami a vypočítaná hodnota chyby sa získa s Vysoké číslo znakov, v konečnej hodnote vypočítanej chyby by mala byť ponechaná iba prvá jedna alebo dve platné číslice. V tomto prípade, ak výsledné číslo začína číslicami 1 alebo 2, vynechanie druhého znamienka vedie k veľmi veľkej chybe (až 3050 %), čo je neprijateľné. Ak sa výsledné číslo začína číslom 3 alebo viac, napríklad číslom 9, potom sa zachová zachovanie druhého znaku, t.j. označenie chyby, napríklad 0,94 namiesto 0,9, je dezinformácia, pretože pôvodné údaje neposkytujú takú presnosť.

Na základe toho sa v praxi ustálilo nasledovné pravidlo: ak výsledné číslo začína platnou číslicou rovnou alebo väčšou ako 3, uloží sa do nej iba ono; ak sa začína platnými číslicami menšími ako 3, t.j. pri číslach 1 a 2 sú v ňom uložené dve platné číslice. V súlade s týmto pravidlom sa stanovujú aj normalizované hodnoty chýb meracích prístrojov: v číslach 1,5 a 2,5% sú uvedené dve platné číslice, ale v číslach 0,5; 4; 6 % uvádza iba jeden významný údaj.

Príklad:Na voltmetri triedy presnosti 2,5s limitom merania x Komu = 300 V odčítaní nameraného napätia x = 267,5Otázka: Akou formou by mal byť výsledok merania zaznamenaný v správe?

Je pohodlnejšie vypočítať chybu v nasledujúcom poradí: najprv musíte nájsť absolútnu chybu a potom relatívnu. Absolútna chyba  X =  0 X Komu/100, pre zníženú chybu voltmetra  0 \u003d 2,5 % a limity merania (rozsah merania) zariadenia X Komu= 300 V:  X= 2,5300/100 = 7,5 V ~ 8 V; relatívna chyba  =  X100/X = 7,5100/267,5 = 2,81 % ~ 2,8 % .

Keďže prvá platná číslica hodnoty absolútnej chyby (7,5 V) je väčšia ako tri, treba túto hodnotu zaokrúhliť na 8 V podľa zvyčajných pravidiel zaokrúhľovania, ale v hodnote relatívnej chyby (2,81 %) je prvá platná číslica menšia. ako 3, preto tu musia byť v odpovedi uložené dve desatinné miesta a uvedené  = 2,8 %. Prijatá hodnota X= 267,5 V treba zaokrúhliť na rovnaké desatinné miesto, ktorým končí zaokrúhlená hodnota absolútnej chyby, t.j. na celé jednotky voltov.

V konečnej odpovedi by sa teda malo uviesť: „Meranie bolo vykonané s relatívnou chybou  = 2,8 % . X= (268+ 8) B“.

V tomto prípade je prehľadnejšie uviesť vo formulári hranice intervalu neistoty nameranej hodnoty X= (260276) V alebo 260 VX276 V.