Non so che versione di Windows 64 bit hai... Su Windows 8 trovi tutte le stampanti installate (fisiche e virtuali) in Pannello di controllo > Dispositivi e stampanti. Da lì ti direi tasto destro, Rimuovi dispositivo... Ma essendo una stampante Microsoft potrei crearti altri danni...
Prova a installare PDF Creator e renderlo stampante predefinita... Open Office ha il suo convertitore e non gli tange quale sia la predefinita, magari su Word c'è qualche problema.