Karier klub Kaçe dimulai di Achilleas Triandrias sebelum kemudian ia pindah ke akademi PAOK pada tahun 2005 dan menandatangani kontrak profesional pertamanya pada Desember 2010. Debutnya di liga untuk PAOK terjadi pada 5 Januari 2011 saat pertandingan tandang melawan Panserraikos (1-1), ia masuk sebagai pemain pengganti untuk Stefanos Athanasiadis pada menit ke-68. Namun, ia tidak bermain lagi untuk tim utama selama musim 2010-2011 dan malah bermain untuk tim U-20 PAOK untuk menjaga kebugaran.
Pada musim 2011-2012, Kaçe dipinjamkan ke klub Anagennisi Epanomi di Liga Sepak Bola Yunani. Ia segera menjadi pemain inti di Epanomi berkat penampilannya yang konsisten dan musim itu ia mencatatkan 19 penampilan dan 1 gol di liga. Setelah kembali ke PAOK, Kaçe mendapatkan kepercayaan dari manajer baru klub, Giorgos Donis, dan menjadi pemain inti bersama dengan pemain muda lainnya dari tim muda klub. Ia tampil dalam kedua leg babak kualifikasi ketiga Liga Europa UEFA 2012-2013 melawan Bnei Yehuda, serta kedua leg babak play-off melawan Rapid Wien.
Pada 31 Oktober, Kaçe memperpanjang kontraknya dengan durasi empat hingga lima tahun sebagai penghargaan atas penampilannya yang baik. Pada 3 Maret, ia mencetak gol pertamanya untuk klub dengan tembakan jarak jauh dari luar kotak penalti dalam kemenangan 4-2 melawan Panionios. Kaçe memiliki musim yang baik bersama PAOK, dengan dua assist dan satu gol dalam 27 penampilan. Ia juga bermain dalam babak play-off Liga Champions UEFA melawan Schalke dan memulai musim Super League melawan Panetolikos.
Setelah menjalani hukuman internal, Kaçe kembali ke tim tiga bulan kemudian. Pertandingan pertamanya setelah hukuman tersebut terjadi pada 9 Januari 2014 melawan Iraklis dalam Piala Sepak Bola Yunani, di mana ia masuk sebagai pemain pengganti pada menit ke-76. Di liga, setelah lima pertandingan berturut-turut di bangku cadangan, pada 26 Januari 2014 ia bermain dalam pertandingan liga pertamanya setelah hukuman, melawan Veria di mana ia bermain selama 90 menit penuh. Pertandingan tersebut berakhir dengan kemenangan 4-1. Ia juga bermain dalam fase gugur Liga Europa UEFA 2013-2014 melawan Benfica, di mana ia bermain selama 90 menit penuh dalam kekalahan 0-1. Kaçe mencetak gol dalam kemenangan 3-0 melawan Panthrakikos pada 23 Februari 2014 dan terpilih sebagai Man of the Match. Bersama PAOK, Kaçe berhasil mencapai final Piala Yunani, di mana mereka kalah 1-4 dari Panathinaikos, dengan Kaçe bermain selama 90 menit penuh dan mendapatkan kartu kuning. Pada akhir musim 2014-2015, gelandang Albania ini menarik minat banyak klub di luar negeri dan ia tampak mempertimbangkan opsi masa depannya di klub Yunani.