Esiste, appunto, 3dwm, ma non sembra molto avanti nello sviluppo. Non l'ho mai provato.

Una cosa bellina che dà effetti 3d (però non è un wm 3d) è 3ddesk.