Non esiste una API da usare al posto della creazione dell'istanza di un ActiveX. Sono concetti diversi.
Se ci dici cosa ci fai dopo con l'ActiveX in questione, allora si può trovare una equivalente serie di chiamate a una (o più) API che facciano la stessa cosa.
In ogni caso, gli ActiveX devono essere registrati eseguendo il programma che registra come Amministratore.