Devi usare la funzione unlink();
Es:
unlink(path/file_name);
http://www.php.net/manual/it/function.unlink.php
Dacci un occhiata se ti fà casino dipende dai permessi che hai configurato.