Sotto i sistemi operativi non-windows, la funzione mail() si appoggia all'MTA locale (vedi la sezione requisiti su http://www.php.net/mail ).

Se vuoi utilizzare un server SMTP esterno, ti suggerisco di scaricare una delle tante classi che implementano il supporto per SMTP (es. phpmailer).