Temo che le impostazioni della risoluzione degli effetti raster vadano fatte PRIMA di creare un qualsiasi oggetto raster.
Fai una prova con un nuovo documento: imposta la risoluzione degli effetti a 300dpi, rasterizza qualcosa eppoi salvalo come pdf. Se non ti dà errori è come dico io.

(Il che significa che ti devi rifare tutti gli oggetti raster del tuo documento, ovviamente).

cià
ale