Premetto che non ho mai dovuto fare quello che dici... però ricordo che una volta trovai un esempio sull'msdn che faceva (mi pare) l'override del paint della form e con l'oggetto graphics arrotondava uno spigolo della form. Sicuro che sia proprio necessario usare delle api?