Il codice per creare il captcha pare che funzioni, testato adesso.
Fai un paio di prove:
Da browser richiama direttamente captcha.php. Se è corretto dovresti vedere l'immagine; in questo caso controlla se il path che metti nel src di img è corretto.
Se non vedi l'immagine commenta l'istruzione header(content-type) e togli la @ da imagecreatefromjpg. In questo modo dovresti vedere eventuali errori