Anche un progetto di setup è comunque un exe che puoi portare ovunque.

E l'installazione, se non usi chiavi di registro, non è altro che una copia di file ... assolutamente trasparente all'utente finale.

Inoltre ti consente di mostrare chiaramente all'utente quali librerie/eseguibili sono installate evitando il (possibile) intervento di "antivirus" e "antimalware" che potrebbero scambiare l'operazione di estrazione della DLL per una attività "sospetta" ...