apache lo rimuovi tranquillamente da Installazioni applicazioni, il php (che lascia un file in c:\windows: php.ini e php4ts.dll (C:\Windows\System)) poi lo rimuovi anche cancellando la cartella dove lo hai installato (se diversa da quella di default, chiaramente, e cioè c:\programmi.....)
Infine, se vuoi, pulisci anche il registro con qualche utility.