Hai provato a controllare il firewall interno del SO che fa da server?
E sei sicuro che il modem che utilizza il server non sia in realtà un router che ha quindi un firewall hardware?

Probabilmente è un problema di sistemistica, porte chiuse, servizi irraggiungibili o cose del genere.
In fondo se non funziona 'al di fuori' della rete locale è quasi sicuramente un problema del genere.

Se fai un ping alla macchina server funziona correttamente?