Con la prima regola dici:

Prendi tutto quello che finisce con .html e passalo sotcategorie.php come id, se l'url soddisfa questa regola fermati.

Quindi da quanto ho capito i tuoi url finiscono sempre con qualcosa tipo 1.html 2.html ecc sia che siano categorie o annunci.

Devi trovare un modo per differenziare le tue regole del tipo:

RewriteEngine On

RewriteRule ^categorie/([^/]+).html sotcategorie.php?id=$1 [L]
RewriteRule ^annunci/([^/]+).html annunci.php?cat=$1 [L]