Wow, ancora vivo il qbasic, c'ho passato la gioventù li sopra.

Per ridurre le dimensioni di un file, il metodo più efficace è usare un algoritmo di compressione... il più usato è la codifica di Huffman (per darti un'idea della potenza, è la base dei moderni archivi zip e rar, che sai quanto agiscono bene sul testo).

Ovviamente implementarlo (specialmente in basic, che non ha i puntatori) può essere complesso... ma cercando su google dovresti trovare qualcosa già fatto...
... io, cercando giusto huffman+qbasic, ho trovato questo
http://internettrash.com/users/fdb/qbcmp.rar
scaricalo e testalo, se funziona bene puoi adattarlo un minimo per il tuo programma.

Dandogli una prima occhiata è abbastanza semplice l'interfaccia... col file huffman2.bas prende il nome del file da comprimere dalla linea di comando e lo restituisce compresso nel file output.huf, mentre col file encoder.bas prende il file compresso output.huf e lo decomprime nel file indicato sulla linea di comando.
Input e output li puoi facilmente adattare al tuo programma, modificando i 4 open.
Gli altri 2 file dovrebbero essere di libreria.
Occhio alle istruzioni: siccome non è solo per qbasic, per usarlo in qbasic fai un search&replace per convertire SSEG in VARSEG nel codice.

Se usi questo, testalo bene, perchè è li a scopo didattico, altrimenti googla e con pazienza trovi.