Non capisco tutto quell'accrocchio di JS: di solito le RegExp si testano scrivendo direttamente la espressione dentro il test.

Comunque se usi il tuo sistema, non devi scrivere le slash iniziale e finale, e forse devi metterci un ^ all'inizio e un $ alla fine:
^(\w+\.)*[a-z]{2,5}$
Nota l'uso delle parentesi (tonde, quadre e graffe hanno significati molto diversi).
Nota ancora che ci sono due backslash: se non le vedi fai un quote del messaggio prima del copia-incolla.