Molto in breve:
MD5 è un algoritmo di hashing - data una stringa ne ricava il relativo hash, ossia un "riassunto" lungo 32 caratteri.
NIS sta per Network Information Service, ossia un servizio che consente di propagare informazioni utili all'interno della propria rete, come ad esempio informazioni legate al login.

Quel messaggio dice semplicemente che utilizzare MD5 per le password causa problemi se utilizzi NIS. Probabilmente non stai utilizzando NIS (e se non hai una rete, probabilmente non lo utilizzerai)