Lo fa anche se è spento da molto tempo? e subito?

Se così non fosse, viene da dire la temp della cpu o della gpu.
Pulisci le ventole.

Se invece è così, sembra problema di alimentazione.

Che marca è il bios? Quanti bip fa? Corti o lunghi?
Se li fa lunghi e distaccati, probabilmente la ram (o surriscaldata, o è sceso il voltaggio, o andata)