Gleitkomma-Präzision in C
In C sind Gleitkommazahlen bis zu einer bestimmten Anzahl von Dezimalstellen präzise. Diese Genauigkeit unterliegt jedoch Einschränkungen, die zu unerwarteten Ergebnissen führen können.
Problemstellung
Bedenken Sie den folgenden Codeausschnitt:
double a = 0.3;
std::cout.precision(20);
std::cout Wie dargestellt, ist a etwas kleiner als 0,3, aber wenn man es mit 50 multipliziert, wird b etwas größer als 15,0. Diese Abweichung vom erwarteten Ergebnis kann auf die Einschränkungen der Gleitkommagenauigkeit zurückgeführt werden.
Lösung
Um die richtigen Ergebnisse zu erhalten, ist es wichtig, die Einstellung zu vermeiden Die Genauigkeit ist höher als die verfügbare Genauigkeit für den numerischen Typ. Der folgende überarbeitete Codeausschnitt veranschaulicht diesen Ansatz:
#include
#include
int main() {
double a = 0.3;
std::cout.precision(std::numeric_limits::digits10);
std::cout ::digits10);
std::cout Dieser Ansatz stellt sicher, dass die Genauigkeit auf das Maximum eingestellt wird, das für den Double-Datentyp verfügbar ist. Es ist wichtig zu beachten, dass der akkumulierte Fehler schließlich spürbar werden würde, wenn die Schleife für eine wesentlich größere Anzahl von Iterationen ausgeführt würde, beispielsweise 5000 statt 50, unabhängig von der Präzisionseinstellung. Dies ist eine inhärente Einschränkung der Gleitkomma-Arithmetik.
Haftungsausschluss: Alle bereitgestellten Ressourcen stammen teilweise aus dem Internet. Wenn eine Verletzung Ihres Urheberrechts oder anderer Rechte und Interessen vorliegt, erläutern Sie bitte die detaillierten Gründe und legen Sie einen Nachweis des Urheberrechts oder Ihrer Rechte und Interessen vor und senden Sie ihn dann an die E-Mail-Adresse: [email protected] Wir werden die Angelegenheit so schnell wie möglich für Sie erledigen.
Copyright© 2022 湘ICP备2022001581号-3