Per far sì che clickando sulla faccina il codice ti compaia nel testo (come nel forum) è una funzioncina js
[img]faccina.gif[/img]

Per invece far comparire la faccina.gif al posto di ": )" devi fare un replace
$testo = str_replace(": )","<img src=\"faccina.gif\" />",$testo);