La parte "JVBERi0xLjMKMyAwIG ........" è corretta, perché decodificata da base64 è:

%PDF-1.3
3 0 obj
<</Type /Page
/Parent 1 0 R
/Resour

che effettivamente è l'inizio corretto di un PDF.

Il problema è la parte prima: "data:application/pdf;base64,". Questa non mi pare possa essere gestita da Base64.decodeBase64