Ok.
Das passt und stimmt so.
Die Werte sind konsistent und an der Verarbeitung kann es nicht liegen.
Die Frage ist jetzt nur, was nach der Ermittlung und Berechnung noch passiert.
Das passiert jetzt entweder in der lib oder bei Dir auf dem Rechner.
Passt der Wertebereich auf das, was Du auf dem PC erwartest?
Mir sieht es sehr nach einer Bereichsüberschreitung aus.