PHP (o l'utente relativo al webserver) non ha i permessi per eseguire comandi da shell, all'amministratore potresti incollare direttamente quell'errore.

Eventualmente prova anche a dare un'occhiata ad una delle tante classi che si connettono direttamente via SMTP senza usare mail() , potresti aggirare il problema senza altri intoppi