Non si puo'.
Crea una nuova classe che eredita da GroupBox e poi fai l' override della funzione OnPaint. A quel punto impazzisci a ricostruire a runtime il bordo.
Ti ricordo la GroupBox è composta da un panel e una label.
Infine puoi anche costruirti uno usercontrol che 'simula' la groupBox e crei una property BorderColor di tipo Color che fai prima.