Puoi usare benissimo photoshop o qualsiasi altro programma di grafica raster.
Il vettoriale, in questo caso non risolve i problemi.

Detto questo:
Dell'immagine che hai postato non capisco quale sia il contorno e quale la foto.
Puoi postare la cornice per intero?
Comunque una volta avuta la selezione della cornice puoi procedere senza alcun tipo di problema.