Potrebbe esserti utile qualcosa del genere?

<script>
str="rgd( 101, 112, 003)";
//str=str.replace(/\s/,"");
str=str.replace(/[^0-9,]/g,"");
arr=str.split(",");
alert(str);
alert(arr[0])
</script>

Prima faccio il replace di tutto ciò che NON è cifra o virgola, poi spacco la stringa rimanente ad ogni virgola e la metto in un array