Apache fermi il server e poi lo disinstalli come qualunque altra applicazione. il PHP se e' installato come CGI (installer) va disinstallato, altrimenti basta cancellare il direttorio e rimuovere il file php.ini da c:\windows e il file php4ts.dll da dove si trova (cercalo con find).