Ciao, è abbastanza semplice quel che chiedi, senza usare neanche il DB.

Ti metto una descrizione veloce veloce della procedura:
in pratica all'inizio della pagina apri le sessioni con un bel

Codice PHP:
session_start(); 
che ti occorrerà per tenere traccia se l'utente ha fatto o meno il login.

Poi metti un controllo banalissimo di questo tipo:

Codice PHP:
if(isset($_SESSION['log'])) 
che controlla se l'utente ha fatto o meno il log in.

Se entri dentro l'IF metti il tuo attuale codice,
se entri invece nell'ELSE hai un altro IF annidato:

Codice PHP:
if($_POST['psw']=="tuaPsw"){
$_SESSION['log']=1;
}
else{
/* una form in cui chiedi la password */

Spero di averti aiutato!