I motori 3D ti aiutano (tra le altre cose) nella rappresentazione della scena, nel caricamento dei modelli (es. il terreno e gli oggetti presenti nella scena), nella gestione delle interazioni tra oggetti 3D, delle "inquadrature", etc.non ho capito benissimo che ruolo svolgono, sono porgrammi che semplificano il lavoro?
Sono delle librerie potenti e complesse, quindi, come dicevo anche prima, richiedono una lunga fase di studio, si da per scontato che tu conosca in modo non superficiale il C++. L'alternativa è sviluppare tutto a mano con DirectX/OpenGL/..., ma se non sai *usare* un sistema già pronto difficilmente puoi *crearne* uno da zero.
Questo è un tutorial per il terrain rendering in Irrlicht, ovviamente puoi trovarne per qualsiasi 3D engine.