Direttamente con le funzioni di aggregazione non puoi a meno che i valori non siano già negativi.

Però puoi fare somme e sottrazioni nella select.


codice:
SELECT (SUM(punti) - (SUM(penalizzazioni)) FROM ...
Il tuo risultato mi sembra più complesso ma mi è di difficile lettura su cosa vuoi ottenere.