non mi pare che Photoshop abbia questa funzione, è una funzione di Illustrator che è un programma vettoriale: effetto > stilizzazione > angoli arrotondati