Ridotto ai minimi termini direi che un sistema operativo a 32 bit utilizza il linguaggio macchina x86 a 32 bit mentre la versione a 64 bit utilizza il linguaggio macchina x86_64 a 64 bit.
In realtà ci sono altre famiglie di processori con altri linguaggi macchina per cui ad esempio Linux lo trovi in parecchie versioni compilate per i diversi processori, idem per OpenBSD, NetBSD e altri, ma ovviamente la piattaforma x86 e oggi la x86_64 sono le più diffuse.