Probabilmente (non vedendo la dichiarazione che usi per la API) devi scrivere

iEsito = ChangeDisplaySettingsEx(ByVal "\\.\DISPLAY2", DevM, ByVal 0&, CDS_TEST, ByVal 0&)