La prima cosa che mi viene in mente è inserire tutte le categorie e sottocategorie nello stesso campo. Esempio:

tabella categorie:
libri
libri->romanzi
libri->gialli
libri->horror
libri->saggistica->tipo 1
libri->saggistica->belli
libri->saggistica->brutti
fumetti
fumetti->tex
fumetti->tex->primi numeri
fumetti->tex->ultimi numeri
fumetti->zagor

(che pappina da scrivere! )

Comunque così facendo avresti infinite possibilità. Non è il massimo della comodità ma ti assicura id univoci per ogni categoria/sottocategoria con livelli infiniti.
Se poi vuoi estrarre le singole categorie dopo l'estrazione dal database, convertile in array
Codice PHP:
$arr_categorie=explode('->',$categorie); 
e hai pure i livelli giusti ($arr_categorie[0] sarà la categoria base, ecc..).

Se mi viene in mente qualcos'altro te lo dico