se usi Photoshop potresti crearti la cornice con il pennino in vettoriale come tracciato, poi convertirla in selezione e applicare una maschera di livello

oppure se usi un programma vettoriale potresti incollare la tua immagine all'interno della cornice che ti sarai precedentemente disegnata