Il messaggio di errore di Finale credo si riferisca a uno di questi casi:
- lui vuole un'immagine 1 bit/pixel (al tratto)
- lui vuole un'immagine grayscale
...mentre tu tenti di passargli una tif così:
- 24 bit/pixel (true color) che sembra bianco e nero
- 1 bit/pixel mentre lui vuole una grayscale
- grayscale mentre lui vuole una 1 bit/pixel
- 8 bit/pixel palettizzata in bianco e nero anziché una grayscale o 1 bit

Sì, insomma... secondo me insisti con Finale, è la soluzione migliore e più portabile.
Se gli spedissi una JPEG supercompressa, il problema sarebbe solo aggirato, ma assolutamente non risolto.