Puoi creare le pagine dinamicamente con PHP. Ci sono varie guide su questo sito. Per fare quello che chiedi basta un comando PHP, che è include. Dunque puoi fare una cosa tipo
Codice PHP:
<?php
 
include('parteincomune.html');
?>
qui metti la parte in html che cambia di pagina in pagina
e chiamare la tua pagina miapagina.php (mi raccomando, l'estensione deve essere php).

Mi raccomando, verifica se il server dove sta il tuo sito supporta PHP (molto probabilmente sì, altrimenti quasi di sicuro supporterà ASP, che ha una sintassi simile).