Solitamente quel quadratino che vedi sta per \n
prova a fare

$testo = str_replace ("\n", "", $testo);

e poi dopo fai le sostituzioni che vuoi.

ciaoo!