We should forget about small efficiencies, say about 97% of the time: premature optimization is the root of all evil.
Prima prova a scrivere il programma in modo che utilizzi la normale CPU, ottimizzalo e poi, se le performance non ti soddisfano, puoi iniziare a pensare all'uso della GPU; a mio avviso comunque credo che solo in rari casi ce ne sia effettivo bisogno.