Non posso aiutarti completamente, ma penso che questo sia il primo passo.

Lo script js sotto controlla i checkbox spuntati.
Considera che:
'f' = nome della form
'figura[]' = nome dei campi checkbox (array)

-------
var elems=f.elements["figura[]"];
for (var i=0; i<elems.length; i++)
if (elems[i].checked) return "...";
-------

In sostanza f.elements["figura[]"] ti permette di accedere all'array dei checkbox e verificare se sono spuntati.

Spero che ti sia di aiuto.