Afronding van resultaten en vergelijking met specificatiegrenzen

In mijn dagelijkse praktijk merk ik dat er veel onduidelijkheid is bij het rapporteren van numerieke meetresultaten en er nogal eens, bewust of onbewust, wordt gesjoemeld met afrondingen bij het vergelijken van deze resultaten met de acceptatiegrenzen. Deze blog brengt hopelijk enige duidelijkheid in deze materie om daarmee onzorgvuldigheid te voorkomen.

Oneindig nauwkeurig

Het is onmogelijk bepaalde grootheden tot een oneindige nauwkeurigheid te meten. Als we bijvoorbeeld met een liniaal meten met een schaalverdeling in millimeters, dan kunnen we hooguit tot een tiende millimeter (±0.1mm) nauwkeurig meten. Veelal wordt geaccepteerd dat op tienden binnen de aangegeven schaalverdeling op het meetinstrument kan worden geïnterpoleerd. Artikel 7 van de ASTM E29 Standard Practice for Using Significant Digits in Test Data to Determine Conformance with Specifications geeft richtlijnen voor dit doel.

Hieruit vloeit de algemene stelregel voort dat het laatste cijfer niet helemaal betrouwbaar is. Als we dus 66,3 kg schrijven, bedoelen we dat de waarde ook wel 66,2 of 66,5 kg zou kunnen zijn, maar niet 65,1 of 68,7 kg. De twijfel mag dus alleen in het laatste cijfer zitten.

Veel meetinstrumenten kunnen digitaal worden afgelezen of geven het meetresultaat op een uitdraai. Voor deze meetsystemen is een meetsysteemanalyse noodzakelijk om te bepalen welke cijfers in het weergegeven meetresultaat nog betekenis hebben en welke weergegeven cijfers als gevolg van willekeurige fluctuaties of afwijkingen geen betekenis meer hebben. De in de meetsysteemanalyse vastgestelde meetonzekerheid is bepalend voor het vaststellen van de precisie van het meetresultaat: welke cijfers nog wel en welke cijfers geen betekenis meer hebben.

Het bepalen van significante cijfers

Bij een liniaal is de nauwkeurigheid onafhankelijk van de gemeten lengte. Maar bij veel analytische meetsystemen is de meetonnauwkeurigheid afhankelijk van de grootte van de meetwaarde. De meetonzekerheid wordt dan bijvoorbeeld uitgedrukt in het percentage van de meetwaarde, bijvoorbeeld ±1%. Dat betekent dat de nauwkeurigheid niet kan worden uitgedrukt in een aantal decimalen. Immers 1 gram per liter zou ik op 10 milligram per liter nauwkeurig kunnen bepalen, en 1 milligram per liter op 10 microgram per liter nauwkeurig. Resultaten noteren als achtereenvolgens 1000.00 mg/L en 1.00 mg/L is dan geen juiste weergave. Voor dergelijke meetsystemen specificeren we het aantal significante cijfers van het resultaat. In het geval van een meetonnauwkeurigheid van 1% zijn dat 3 significante cijfers. We noteren dus 1.00 g/L of 1.00 x 10³ mg/L en 1.00 mg/L, waarbij dus alle cijfers, inclusief de nullen betekenis hebben.

Een aanbeveling voor het aantal significante cijfers wordt gegeven in ASTM E29. Het aantal significante cijfers (België: beduidende cijfers of kenmerkende cijfers) hangt af van de herhaalbaarheid (σ) van de testmethode. De aanbevolen regel is dat het afrondingsinterval tussen 0,05 en 0,5 σ ligt. Bijvoorbeeld als een testresultaat 1,45729 en herhaalbaarheid standaarddeviatie van 0,0052 is, dan moet het afrondingsinterval tussen 0,00026 (0,05 σ) en 0,0026 (0,5 σ) liggen. Het afrondingsinterval is dan 0,001 en het resultaat wordt weergegeven als 1,457.

Methoden om duidelijk significante cijfers aan te geven

Om te voorkomen dat er veel nullen voor (0.0000123) of na (12300000) de significante cijfers geschreven moeten worden, wat onduidelijkheid geeft of de nul nu wel of geen betekenis heeft, gebruiken we de wetenschappelijke methode door een macht van 10 toe te voegen (1.23 10^-6 of 12.3 10⁶). Bij de wetenschappelijke notatie staat er minimaal één significant cijfer (ongelijk aan nul) voor de komma. Ook kun je geschikte voorvoegsels (kilo, centi, milli, etc.) gebruiken. Als voorbeeld neem ik de afstand tussen Amsterdam en Utrecht, hemelsbreed gerekend. Die afstand is 35 km (van centrum tot centrum), weer te geven dus in 2 significante cijfers. De 3 en de 5 hebben allebei echt een betekenis. Je mag geen van beide veranderen, want als je dat doet maak je een fout. Je kunt ook zeggen dat 35 km, 35000 meter is. Maar zo heel precies heb je de afstand van Amsterdam tot Utrecht niet bepaald. Misschien is het 35178 meter of 34936 meter. Als je dus zegt dat de afstand van Amsterdam tot Utrecht 35000 meter is, dan heb je weliswaar 5 cijfers opgeschreven in plaats van 2, maar daarvan zijn er nog steeds slechts twee significant. De drie nullen staan er wel, maar ze zijn niet significant: ze betekenen niets. De wetenschappelijke notatie en voorvoegsel voorkomen dit probleem.

Afrondingsregels

Als het meetsysteem het resultaat weergeeft in meer cijfers, dan zal het weergegeven resultaat in de rapportage dus moeten worden afgerond. Bij het afronden vervangen we een resultaat met de dichtstbijzijnde waarde die een veelvoud is van het afrondingsinterval. Het afrondingsinterval is de macht van 10 van het laatste significante cijfer.

Er is een aantal manieren om af te ronden, waaronder:

• De meest gebruikelijke is de 5-up regel waarbij als het eerste cijfer zonder betekenis kleiner dan 5 is, dan wordt de waarde naar beneden afgerond, en is het eerste cijfer zonder betekenis 5 of hoger, dan wordt naar boven afgerond.
• In de wetenschap en ASTM E29 wordt soms de 5-even regel toegepast. Is het eerste cijfer zonder betekenis 5, dan wordt afgerond naar de dichtstbijzijnde even waarde; dus zowel 1,5 als 2,5 ronden af naar de dichtstbijzijnde even waarde: 2.

Ook zijn er specifieke afrondingsregels voor als we meetresultaten gebruiken in berekeningen.

• Bij optellen en aftrekken geef je het resultaat in het aantal decimalen van de waarde met het kleinste aantal decimalen.
• Bij vermenigvuldigen en delen geef je het resultaat in het aantal significante cijfers van het gegeven met het kleinste aantal significante cijfers.
• Bij het uitvoeren van complexe, meervoudige berekeningen, wordt de afronding altijd uitgevoerd na de laatste berekeningsstap. Tussenliggende afrondingen leiden tot toename van de onnauwkeurigheid van het eindresultaat en zijn dus niet toegestaan.

Het zou in het algemeen het beste zijn om alle individuele meetuitkomsten in een rapport te noteren, maar met veel resultaten wordt dat onoverzichtelijk. In dat geval worden altijd de volgende drie statistische kengetallen gegeven:

• het aantal metingen: n;
• de gemiddelde meetuitkomst: x̅;
• en de standaarddeviatie: s.

De kerngetallen worden berekend. Het gemiddelde en de standaarddeviatie worden daarbij met hetzelfde aantal decimalen / significante cijfers aangegeven; ze zijn immers berekend uit de individuele gegevens. De standaarddeviatie zegt iets over de nauwkeurigheid van de (gemiddelde) meetwaarde.

Berekeningen uitgevoerd met (Excel) spreadsheets of computerprogramma’s moeten dus rekening houden met bovenstaande afrondingsregels. Hou hier dus rekening mee met het programmeren, controleren en valideren van je spreadsheet.

Vergelijking met specificatiegrenzen

Vaak is het prettig als een meetuitkomst toch met één decimaal meer bekend is dan de vereiste nauwkeurigheid van de grenswaarden in een specificatie. Met name als ermee verder gerekend moet worden is dat aan te raden. In feite wordt dan net zo gehandeld als met een tussenresultaat van de berekeningen. Alleen levert dat wel problemen op met het bepalen of de meetwaarde nu wel of niet aan de specificatie voldoet.

De twee werkwijzen voor het vergelijken van een meting of testresultaat met een specificatie zijn de absolute vergelijkingsmethode en de afrondingsvergelijkingsmethode.

• Vooral afmetingen worden geïnterpreteerd met de absolute vergelijkingsmethode. Indien bijvoorbeeld een diameter gespecificeerd als 30,0 ± 0,1 mm en gemeten met een afrondingsinterval van 0,001 mm, dan zal volgens de absolute methode 29.900 (net) voldoen, terwijl 29,899 niet aan de specificatie voldoet.
• Materiaaleigenschap specificaties in de procesindustrie worden gewoonlijk geïnterpreteerd met de afrondingsmethode. Als de zuiverheid wordt gespecificeerd als 99-102 procent, dan voldoen volgens de afrondingsvergelijkingsmethode alle analyseresultaten tussen 98,50000000 en 102,4999999999 procent aan de eis. Met andere woorden alle decimalen tot in het oneindige zijn geldig, mits het betekenisvolle, significante cijfers zijn.

Welke vergelijkingsmethode moet worden toegepast moet vooraf worden bepaald om gesjoemel en geschillen te voorkomen. Ik ben niet zelden tegengekomen dat over het algemeen de absolute vergelijkingsmethode wordt toegepast. Totdat er een waarde wordt gepresenteerd die met de afrondingsvergelijkingsmethode nog wel binnen specificatie zou vallen. Dan wordt heel resultaatgericht maar even geswitcht.