PHP digerisce male l'RSA.
Se il tuo server lo supporta puoi risolvere facilemente con Perl e la gerarchia di moduli CRYPT.

Non so molto di php, dovresti cercare sul sito di php.net qualcosa riguardo a ssl Sicure Socket layer (credo °_°).

Più di così non ti posso aiutare, spero qualcuno più ferrato di me ti possa rispondere.
Ciao