$test=mysql_query("select count(*) from libri where isbn='$isbn'");

if($test==1){

in $test hai il resource id# oppure false.

codice:
$test=mysql_query("select count(*) from libri where isbn='$isbn'");

$row = mysql_fetch_row($test);
if($row[0] == 1) {

edit@

meglio se metti if($row[0] => 1 oppure $row[0] > 0

potrebbe essercene piu' di uno.... anyway...