"DELETE FROM tabella WHERE id=MAX(id)"

Supponendo che id sia autoincrementante.