Se noti nella prima schermata il file di configurazione si chiama my.ini e si trova nella cartella di mysql.

Siccome il nome del servizio "deve" essere univoco, potrebbe essere che in precedenza, sia a seguito di tentativi di installazione oppure di precedente installazione, esista gia' un servizio di nome MySQL. Se il servizio e' gia' presente (controlla nella lista dei servizi) potrebbe avere una stringa di avviamento errata. Cioe' che il file di configurazione non sia presente od abbia un path diverso ( --defaults-file) .

Siccome lo scenario potrebbe essere completamente differente per ogni PC il suggerimento e' di non utilizzare il wizard che non permette di "capire" perche' non funzioni, ma di usare l'apposito tools di mysql, la gui tools. La trovi qui:

http://dev.mysql.com/downloads/gui-tools/5.0.html

installa nella stessa cartella in cui hai messo mysql. Poi lanci mysql system tray monitor e da li potrai gestire al meglio, con l'ausilio del programma associato alla GUI mysql administrator, la configurazione del servizio mysql. Potrai rimuoverlo, modificarlo o crearne uno nuovo.

Per la password di root puoi lasciarla in bianco ed aggiungerla successivamente utilizzando la funzione password() di mysql.