codice:
$query = "SELECT password FROM utenti WHERE password = '$password'";
$result = mysql_query($query);
$tot = mysql_num_rows($result);
if ($tot > 1)
  {
      echo "password già utilizzata";
  }
Lo stesso lo fai per il campo user.
Se non funziona prova ad usare LIKE.