Se vuoi usare le tabelle (table) devi contare tutti i record cioè tutte le foto, poi imposti una variabile per il numero di foto che vuoi visualizzare per tr, e poi devi visualizzare tutto tramite php, oppure con i css senza tabelle imposta dei div che vadano a capo, non sono la maga dei css ma se cerchi <ul class="gallery">

vedrai che trovi qualcosa.