Non fare confusione: il tuo tipo strutturato è "punto", non "struct punto" o altro (questo perché hai utilizzato la typedef); tanto per cominciare quindi la tua funzione dovrebbe avere "punto" come tipo del valore di ritorno, e non "struct punto". Poi, in main() non puoi dichiarare una struttura con nome "punto" in quanto questa parola è già utilizzata per definire il tipo della struttura... sarebbe come definire una variabile di tipo int con nome proprio "int"... inoltre, all'interno della funzione devi dichiarare una struttura locale (ad esempio, "punto1") ed utilizzare quella per le assegnazioni, senza contare poi che non puoi utilizzare la printf() in quel modo dato che la funzione ins() ti restituisce una struttura "punto" e non due interi (non potrebbe nemmeno, pur volendo).