In html e php e mi pare anche javascript se usi una virgoletta o doppiavirgoletta è uguale, basta che apri e chiusi con le stesse 
Per il tuo problema puoi risolvere in svariati modi, esempio:
Codice PHP:
echo("<form action=\"cancmaterie.php\" method=\"POST\" onsubmit=\"javascript:return window.confirm('Confermi la cancellazione ?');\">");
In questo modo le virgolette \" saranno interpretate come stringa e non come tag chiusura/apertura per le stringhe, inoltre la virgoletta singola sarà automaticamente vista come stringa perché si è aperto con le virgolette doppie.
Altra possibile soluzione è:
Codice PHP:
?>
<form action="cancmaterie.php" method="POST" onsubmit="javascript:return window.confirm('Confermi la cancellazione ?');">
<?php
Come vedi, chi più ne ha più ne metta