Risolto!!! Grazie Andrea! il problema non era nella formula ma nell'accesso alla retta r che gli passavo, non facevo r.getA() ma mettevo solo a per cui a inizializzato a 0 mi ritornava infinity perchè dividevo per 0!

Grazie ancora!!