Un servizio di Windows è fatto in modo particolare, non puoi installare un qualsiasi exe (l'errore 1053 ti indica solamente che il servizio non è partito nel tempo dovuto, perché il tuo programma non è un servizio e non ha le caratteristiche necessarie)
Devi creare un effettivo servizio con .NET (non è difficile, ci sono delle regole da seguire).
Ti sconsiglio di avere una interfaccia grafica, il servizio, per sua natura, non dovrebbe essere utilizzarne.
In alternativa, tempo fa esisteva SRVANY un tool che permetteva di ospitare eseguibili come se fossero servizi. Non so se è ancora disponibile e se funziona su sistemi operativi moderni.