premetto che sconosco il plugin, ma a quanto pare quell'errore è dovuto alla presenza di un'altra istanza dell'oggetto dataTable, il messaggio di errore ti consiglia di reperire tale istanza e di lavorare su quella.
Guardando un pò in giro, mi pare di aver capito che per interagire su istange dell'oggetto dataTable già presenti occorre recuperarle nel seguente modo:
var myDataTable = $('.tabella').dataTable();
Ora dovresti poter gestire l'oggetto con la dot notation per i metodi, cioè:
myDataTable.metodo
per i metodi vedi se trovi quello che ti serve nelle api:
http://datatables.net/api