Guarda che sui Mac Apache è preinstallato ed attivo con supporto anche al PHP5 (basta solo modificare il file httpd.conf).

L'unica cosa che devi installare è MySQL.

Per vedere se Apache funziona basta che vai in Preferenze di Sistema -> Condivisione e metti il segno di spunta su Condivisione web. Apri Safari e digita "localhost" e ti appare la schermata di benvenuto di Apache.

Per quanto riguarda phbb3 basta che lo metti dentro la cartella dei documenti di Apache (a memoria non la ricordo, ma se non sbaglio va bene anche nella cartella Siti che trovi dentro Documenti) e lo raggiungi scrivendo nel browser "localhost/~tuonomeutente/phpbb". Attenzione che prima devi aver installato MySQL seguendo, ad esempio, questa guida

Io MAMP non lo userei, che te ne fai di un programma in più???