Utilizza jquery:

codice:
<html>
<head>
  <style>
  p { text-align: center;border:1px solid black; }
  </style>
  <script src="http://code.jquery.com/jquery-latest.min.js"></script>
</head>
<body>

<script>
	$(document).ready(function() {
	   
		$('a').click(function(){
			$('html, body').animate({scrollTop: 0}, 'slow');
			return false;
		});

	});
</script>

	

TOP PAGE</p>
	


		















		















		














		
		














	
		














	
		














	
		














	
	</p>
	<div style="text-align: center">
	TOP
	</div>
</body>
</html>
Devi solo formattarlo come ti pare e guardare un pò come far apparire il tasto solo quando l'utente scrolla verso il basso