Benvenuto.
Non esiste il comando per sapere questa cosa.
La funzione mail() semplicemante si assicura che l'email sia recapitata al Mail Server che poi effettuerà il vero invio verso il Mail Server del destinatario.
Sono i Mail Server a ricevere il messaggio d'errore di cui parli, non l'Application Server (quello dove gira PHP).

La funzione mail() quindi ritorna solo true o false, true se riesce a contattare il Mail Server che effettuerà poi l'invio, false se non ci riesce, ma non ne sa nulla poi della comunicazione tra i due Mail Server (invio e ricezione).

Leggendo dalla documentazione ufficiale:
Returns TRUE if the mail was successfully accepted for delivery, FALSE otherwise.

It is important to note that just because the mail was accepted for delivery, it does NOT mean the mail will actually reach the intended destination.