Devi copiare e registrare tutti i componenti impiegati. Non basta copiare l'exe.

E' meglio se usi un installer che fa tutto il lavoro per te. Ne esistono anche gratuiti.