Devi usare il tag <fieldset>

Poi affiancherai i vari fieldset mediante il float ed all'interno di ciascun fieldset dovrai far andare a capo tra label e campo (potrebbe bastere una larghezza max maggiore del 50%).

In linea di massima sia label che campo potrebbero essere allineati al centro.