In teoria le rimuovo perchè se non viene soddisfatta una condizione non vedrò nè la PictureBox nè la sua Tooltip.

Comunque, ho messo un testo di prova, come hai detto tu, e ho visto che la nuova Tooltip viene sovrapposta alla precedente.

Forse dovrei verificare se esiste già una Tooltip con del testo prima di creare una nuova?