fai questo
codice:

$sql = mysql_query("select substr(nome_provincia,1,1) as lettera from anagrafica_province2012 group by substr(nome_provincia,1,1)");
while($row = mysql_fetch_array($sql)){


select * from anagrafica_province2012 WHERE substr(nome_provincia,1,1) = '$row[lettera]';
fai un while a queto punto e ti trovi quel che cerchi....


}
spè che te la scrivo meglio