Die oben erwähnten Beispiele sind im Dezimalsystem angegeben, das heißt mit einer Basis b = 10. Computer verwenden stattdessen das Binärsystem mit einer Basis b = 2. Gleitkommazahlen werden in Computern normalerweise als Folgen von 32 Bit ("einfache Genauigkeit") oder 64 Bit ("doppelte Genauigkeit") dargestellt. Manche Prozessoren erlauben auch längere Gleitkommazahlen, so kennen die von der Intel x86 Serie abgeleiteten Prozessoren (u.a. Intel Pentium und AMD Athlon) eine Gleitkommazahldarstellung mit 80 Bit für Zwischenergebnisse. Manche Systeme erlauben auch Gleitkommazahlen mit 128 Bit.

Die IEEE hat die Darstellung von Gleitkommazahlen in ihrem Standard IEEE 754 reglementiert; beinahe alle modernen Prozessoren folgen diesem Standard. Ausnahmen sind einige IBM-Großrechnersysteme, die VAX-Architektur und einige Supercomputer, etwa von Cray.

Die tatsächliche Darstellung im Computer besteht also aus einem Vorzeichen-Bit, einigen Mantissen-Bits und einigen Exponenten-Bits. Wobei die Mantisse meist normiert ist und Zahlen im Interval [1; 2] darstellt. (Da in diesem Interval das erste Bit mit der Wertigkeit Eins stets gesetzt ist, wird es meist implizit angenommen und nicht gespeichert.) Der Exponent wird meist im Biased-Format, oder auch im Zweierkomplement dargestellt. Des weiteren werden zur Darstellung besonderer Werte (Null, Unendlich, Keine Zahl) meist einige Exponentenwerte, z.B. der größtmögliche und der kleinstmögliche Exponent, reserviert.

Eine Zahl f wird demzufolge als f = s · m · 2e dargestellt, wobei s Element von {-1, 1} ist.

IEEE 754 S/390
Mantisse (in Bit) Exponent (in Bit) Mantisse (in Bit) Exponent (in Bit)
Short 23 8 24 7
Long 52 11 56 7
Extended 64 15 112 7