Capiamoci ... intendevo che non è una protezione del "sistema operativo".

E' invece un messaggio che identifica un buffer overflow che si verifica nello stack e che è messo in essere da parte del compilatore (gcc) che inserisce codice opportuno nel tuo programma per eseguire tali test.

Cerca di identificare la "zona" del codice del server in cui avviene il problema.

Fossi in te, cercherei tra le fscanf ...