Probabilmente il programma in questione si inietta in tutti i processi ed effettua l'hooking della API CreateProcess e/o di altre API correlate, intercettando così tutte le creazioni di processi ed eventualmente vietando quelle proibite. Non è roba che si può fare in .NET, sono cose che si fanno solitamente in C o in C++ (e anche così sono piuttosto complesse).