Di norma quando installi una qualunque distribuzione dovresti poter scegliere cosa installare e cosa no, perciò se c'è o meno un client email testuare dovresti essere tu a deciderlo.
Quando installi ubuntu mi pare non ci sia questa possibilità di scelta perciò la prima cosa da fare è controllare cos'hai installato sul sistema, prova con un dpkg -l