I principi base dell'algoritmo te li ho già suggeriti. Per quanto riguarda le funzioni PHP da utilizzare, ti serve http://www.php.net/imagecolorat per identificare il colore di un punto e poi le solite funzioni per leggere le immagini, settare il colore trasparente, etc.

Scrivere l'algoritmo, implementarlo, testarlo ed ottimizzarlo per funzionare sulla maggior parte delle immagine richiede varie ore di lavoro, più di darti le indicazione di massima non posso fare.