Dal link non possiamo vedere il codice PHP, proprio perché l'interprete di PHP interpreta il codice e ci manda la pagina finita (in questo caso un errore). Quindi dovresti postare qui quello che hai messo nella pagina.

In ogni caso quello che mi sembra strano è che ti dà errore alla riga 24. Come ti abbiamo detto di fare, il codice PHP finisce in 2-3 righe, dopo di che ci dovrebbe essere il resto della pagina html, quindi non dovrebbero poterci essere errori così avanti nella pagina.

Gli apici sono (più o meno) intercambiabili, usa quelli che preferisci.

L'head lo scriverai nella tua pagina comune, oppure se preferisci prima di iniziare il php. Insomma il comando che ti abbiamo indicato si limita a copia-incollare un pezzo di html.