Si chiama "captcha". Se fai una ricerca sul forum (o in internet con captcha + php) trovi diverse informazioni a riguardo e anche librerie di facile impiego. Una che ho usato in passato:

http://sourceforge.net/projects/b2evo-captcha