Poichè usi una variabile php dentro ad un'altra variabile stringa, in caso di valore nullo questa viene dinamicamente convertita in stringa vuota. Inoltre non ci vanno gli apici (parlo di quelli attorno a $msn), in quanto indicano che al loro interno c'è una stringa.

La sintassi corretta in sql sarebbe:
UPDATE members SET msn = NULL WHERE nome='$nu'
ovviamente il campo non deve essere "not null"