gli effetti visivi devono avvenire lato client, il php non può fare nulla se non restituire un testo piatto (l'html).
Devi orientarti per forza su javascript, se sei esperto puoi fare tutto con javascript puro, altrimenti puoi affidarti ad uno dei tanti framework esistenti, con relativi plugins che semplificano la creazione di effetti di questo genere.
In linea di massima dovrai caricare tutti i record in un div e tramite javascript farai scorrrere questo div dentro ad uno il cui overflow è hidden.
ciao