Compilador el mejor es gcc (djgpp en internet), es el compilador de linux para windows, y es lo mejor que hay. Como bien te han dicho lo que te hace falta es un editor, ultraEdit está muy bien, pero es un poco hostil la mezcla con gcc, ya que aunque te sale en colorines y eso, luego cuando compilas lo haces sobre la linea de comandos y tienes que ir a las lineas que te dice el compilador tu, no lo hace el entorno. Todo es acostumbrarse.

Siguiendo con linux un editor muy bueno es emacs, aunque también es dificil, pero es lo más potente que hay. Puedes usar también eclipse, que se utiliza mucho con java...y no se me ocurre así más.

El Borland C está bastante majo, yo lo use durante un tiempo y no está mal.