In realtà mi serve creare un programma per criptare dei file/cartelle: se io cambio il formato dei file all'interno della cartella selezionata in modo da renderlo illeggibile a tutte le altre applicazioni tranne la mia, che per decriptarla ricambierebbe il formato in quello originale...
Non hai bisogno di "creare un formato", ti serve un buon algoritmo crittografico (AES, Blowfish, ...). Cerca librerie che implementino tali algoritmi in VB (che poi non è il linguaggio più adatto per fare questo genere di cose). Visual Basic .NET include classi utilizzabili per criptare/decriptare dati.