Non ho mai installato rdoc come gem.
In genere

1. installo ruby
2. installo rubygems
3. installo dipendenze mancanti (irb, rdoc)