se un valore e' NULL non resta che rendere NULL.

Devi poi precisare se il campo e' NULL oppure empty (vuoto) sono due cose diverse.

per utilizzare AND e OR devi definire le precedenze
codice:
WHERE categoria = '$categoria' 
AND (nome_ita = '$nome_ita' OR nome_ita IS NULL OR nome_ita = '')