allora un metodo abbastanza veloce è questo...
disegna la tua finestra con un programma di disegno qualsiasi.... supponiamo sia di forma ovale... ora l'immagine che salvi è pur sempre un rettangolo, per cui lo sfondo al di fuori dell'ovale fallo di un colore ben preciso, uno di quelli che sono selezionabili da Visual Studio quando imposti un qualsiasi colore. deve essere quella tonalità esatta però!

la form che vuoi fare "strana" impostala senza bordi e metti come backgroundImage l'immagine che hai disegnato...
imposta come TransparencyKey il colore "di sfondo" che hai inserito nell'immagine ed hai finito.

non so se sn stato chiaro, in caso chiedi...