quando hai selezionato nella paletta degli strumenti di PS lo strumento selezione , nel menu in alto ti escono le opzioni per la selezione e ci dovrebbe essere una casella dove c é scritto anti-aliased, ecco devi vistarlo per non avere l'alias.