大抵のレンタルサーバーには最初からC言語コンパイル環境(gccやlib)はインストールされていますが、VPSなどに自分でOSをインストールすると、そのときのパッケージの選択によってはgcc等の開発環境がインストールされない場合もあります。

■ gcc/C言語コンパイル環境インストール

# yum install make gcc gcc-c++

これだけです。