Kluge memulai karirnya di klub Chemnitzer FC sebelum pindah ke Borussia Mönchengladbach, 1. FC Nürnberg, dan Schalke 04. Setelah itu, ia bergabung dengan Hertha BSC.
Selama karirnya, Kluge berhasil meraih beberapa penghargaan. Bersama Schalke 04, ia berhasil memenangkan DFB-Pokal pada musim 2010-2011 dan DFL-Supercup pada tahun 2011.
Meskipun sudah pensiun, kontribusi Kluge dalam dunia sepak bola tetap diingat dan diapresiasi. Ia merupakan salah satu pemain berbakat yang telah memberikan kontribusi besar dalam karirnya."