Il risultato è effettivamente un intero compresto tra -5 e 5. Il motivo è che la funzione Random.nextInt() restituisce anche valori negativi. Dividendo un numero negativo per un numero positivo (6) si ottiene un numero negativo come risultato e il resto sarà anch'esso negativo!

Es: -151 / 6 = -25 con il resto di -1

Su come funziona l'operatore modulo penso sia stato chiaro Lele, cioè ti restituisce il resto della divisione.