Vermaelen bergabung dengan akademi Ajax pada tahun 2000 dan memenangkan gelar Eredivisie musim 2003-2004 pada musim pertamanya dengan klub tersebut. Ia sempat dipinjamkan ke RKC Waalwijk sebelum kembali ke Ajax dan memenangkan KNVB Cup dan Johan Cruyff Shield. Setelah Klaas-Jan Huntelaar hengkang pada tahun 2009, ia menjadi kapten klub untuk sisa musim tersebut. Vermaelen bergabung dengan Arsenal pada tahun 2009 dan masuk dalam PFA Premier League Team of the Year pada musim tersebut. Setelah Robin van Persie pindah ke Manchester United pada Agustus 2012, ia diangkat menjadi kapten klub, tetapi kesempatan bermainnya terbatas karena keberhasilan pasangan pertahanan utama Arsenal, Per Mertesacker dan Laurent Koscielny. Pada Agustus 2014, ia pindah ke Barcelona dengan nilai transfer £15 juta di La Liga. Pada tahun 2019, ia bergabung dengan Vissel Kobe sebelum pensiun pada tahun 2021.

Vermaelen melakukan debut internasionalnya untuk Belgia pada tahun 2006 dan berpartisipasi dalam Olimpiade 2008, di mana Belgia finis di posisi keempat, serta Piala Dunia FIFA 2014 dan 2018 (di mana Belgia finis di posisi ketiga), dan Kejuaraan Eropa UEFA 2016 dan 2021.

Di awal kariernya, Vermaelen bermain untuk Germinal Ekeren di Belgia sebelum bergabung dengan akademi Ajax. Ia melakukan debut profesionalnya pada 15 Februari 2004 dalam kemenangan tandang 0-2 melawan FC Volendam. Penampilannya yang bagus membuatnya dipanggil ke tim nasional Belgia. Vermaelen kembali ke Ajax dan memenangkan KNVB Cup. Ia membentuk kemitraan dengan rekan satu akademi John Heitinga dan kemudian Jan Vertonghen setelah Heitinga pindah ke Atlético Madrid di Spanyol. Setelah Klaas-Jan Huntelaar hengkang di pertengahan musim, Vermaelen menjadi kapten Ajax untuk sisa musim 2008-2009, di mana ia sebagian besar bermain sebagai bek kiri.

Vermaelen pindah ke Arsenal dari Ajax dengan biaya awal €10 juta (naik menjadi €12 juta) pada 19 Juni 2009, dengan menandatangani kontrak selama empat tahun. Bersama William Gallas, Vermaelen membentuk pasangan pertahanan tengah Arsenal. Ia mencetak gol pada debutnya di Premier League pada 15 Agustus 2009 dalam kemenangan tandang 1-6 melawan Everton. Ia kemudian mencetak dua gol dalam kemenangan 4-0 atas Wigan Athletic. Vermaelen menjadi terkenal sebagai bek yang sering mencetak gol selama paruh pertama musim 2009-2010 Arsenal. Ia dinominasikan untuk penghargaan Olahragawan Belgia Tahun Ini dan masuk dalam Tim PFA Musim Ini. Vermaelen menyelesaikan musim dengan 45 penampilan dan delapan gol di semua kompetisi.

Pada musim 2010-2011, Vermaelen menjadi kapten Arsenal dalam pertandingan Emirates Cup melawan Milan karena kapten reguler Cesc Fàbregas dan wakil kapten Manuel Almunia dan Robin van Persie tidak ada dalam skuad. Vermaelen