La maschera la puoi fare sfumata in questo modo:
crei la maschera (per esempio un rettangolo) come riempimento della maschera usi radial e assegni ai colori (che poi nn si vedranno) + o - alfa quanto desideri sfumare....

soluzione n°2
realizza direttamente la sfumatura sulla foto