Purtroppo Photoshop non è "scriptabile".
Su MAC saprei dirti come fare tramite uno o due "AppleScript", senza chiamare in causa PS.

Oppure potresti provare con una qualche applicazione tipo "iView" che è in grado di riconoscere le foto Orizzontali da quelle Verticali, selezionarle e aprirle in Photoshop.

A quel punto ti basterebbe avere un'azione basata sul ridimensionamento dei pixel in larghezza a 500pxl (per le foto orizzontali) e un'altra basata sul ridimensionamento in altezza a 500pxl (per quelle verticali).
Ovviamente dovresti fare due Batch distinti, ma non credo sarebbe un problema.

cià
ale