Pada musim 2000-2001, cedera bek tengah di klub induknya, Panathinaikos, menjelang pertandingan babak kualifikasi ketiga melawan Slavia Prague untuk Liga Champions, membuatnya harus kembali ke Paiania dan menjadi anggota reguler dalam susunan pemain utama. Pada musim 2003-2004, Kyrgiakos bersama Panathinaikos berhasil memenangkan Liga Yunani dan Piala Yunani melawan rival abadi, Olympiacos.
Pada Januari 2005, Kyrgiakos bergabung dengan Rangers selama musim 2004-2005 dengan tujuan untuk kesepakatan permanen. Bersama klub barunya, dia berhasil meraih gelar juara liga kedua berturut-turut dan juga Piala Liga Skotlandia, dengan mencetak dua gol dalam kemenangan 5-1 melawan Motherwell di final. Meskipun sempat negosiasi dengan Everton, Portsmouth, Schalke 04, dan klub Italia Genoa, Kyrgiakos akhirnya setuju untuk kontrak satu tahun dengan Rangers. Pada musim tersebut, dia mencetak gol kemenangan yang terkenal melawan F.C. Porto di Liga Champions UEFA, dan total mencetak tiga gol setelah juga mencetak gol melawan Peterhead di Piala Skotlandia dan Dunfermline di liga. Kontraknya dengan Rangers berakhir pada Mei 2006 setelah kesepakatan bersama.
Pada Juni 2006, Kyrgiakos menandatangani kontrak selama dua tahun dengan Eintracht Frankfurt. Pada musim pertamanya, dia menjadi favorit suporter berkat penampilan dan gol penting yang membantu tim menghindari degradasi. Pada musim keduanya bersama klub tersebut, Kyrgiakos tampil cemerlang dan membantu tim finis di posisi kesembilan. Namun, pada 1 Juli 2008, setelah kontraknya berakhir, Kyrgiakos memutuskan untuk tidak memperpanjang kontraknya dengan klub Jerman tersebut.
Pada 1 Agustus 2008, Kyrgiakos setuju untuk bergabung dengan AEK Athens dengan kontrak selama lima tahun. Karena sering mengalami cedera, Kyrgiakos hanya tampil dalam 20 pertandingan liga untuk AEK, tetapi dia tetap menjadi salah satu bek terbaik di liga. Dia bermain dalam Final Piala Yunani pada tahun 2009 ketika AEK melawan Olympiacos dalam salah satu pertandingan paling seru dalam sejarah sepak bola Yunani. Kyrgiakos berada di pihak yang kalah saat Olympiacos menang 15-14 melalui adu penalti setelah bermain imbang 4-4 setelah perpanjangan waktu. Namun, Kyrgiakos tidak dapat menyelesaikan pertandingan karena mengalami cedera di babak kedua. Pada saat itu, AEK sedang unggul 2-1.
Pada 21 Agustus 2009, diumumkan bahwa Kyrgiakos telah menandatangani kontrak selama dua tahun dengan opsi perpanjangan satu tahun dengan Liverpool. Pemain internasional Yunani ini mendapatkan nomor punggung 16. Kyrgiakos mencetak gol pertamanya untuk klub tersebut melawan Stoke City pada 16 Januari 2010 dan juga tampil penuh selama 90 menit dalam hasil imbang 1-1 bersama Martin Škrtel di Britannia Stadium. Penampilannya dalam pertandingan tersebut membuatnya dinobatkan sebagai pemain terbaik oleh berbagai situs olahraga Inggris. Pada 17 Januari 2010, mantan striker Liverpool dan jurnalis/pundit sepak bola Stan Collymore menulis artikel yang mengakui kemampuan Kyrgiakos, menyatakan bahwa "Kyrgiakos mungkin membuat Rafa (Benítez) tetap di pekerjaannya...". Collymore berpendapat bahwa "Sotirios Kyrgiakos bisa menjadi ikon tak terduga bagi 'Liverpool baru'". Dia menyatakan, "Bek besar berkepang kuda dari Yunani ini telah menunjukkan kualitas yang luar biasa sejak bergabung dengan Liverpool."