Posts tonen met het label grote getallen. Alle posts tonen
Posts tonen met het label grote getallen. Alle posts tonen

maandag 29 september 2014

Grote getallen in PowerShell - deel 2

PowerShell rekent met [Decimal] met grote precisie.

Nu sept 2014 is Project Euler weer leuk aan het worden. Voor probleem 26 "Reciprocal cycles" is het handig om een precisie te hebben die groter is die van voor standaard datatypen. Ik wil liefst enkele tientallen cijfers achter de komman. Het .NET data type [System.Decimal]  of kortweg [Decimal] kan dat! [Decimal] geeft 30 cijfers precisie of in het geval van een breuk 28 cijfers achter de komma.