Setelah mendapatkan pujian atas penampilannya di Piala Dunia FIFA 2010, dan dengan kontraknya di Bremen yang semakin berkurang, Mertesacker pindah ke klub Premier League, Arsenal, setahun kemudian, dengan biaya transfer £8 juta. Di Arsenal, Mertesacker dengan cepat menjadi bek tengah pilihan utama klub tersebut, dan menjadi pemain inti meskipun berbagi beberapa rekan bertahan selama dua musim pertamanya. Ia akhirnya membangun hubungan yang solid dengan rekan bertahannya, Laurent Koscielny, dan keduanya menjadi bintang saat Arsenal mengakhiri paceklik gelar selama sembilan tahun dengan memenangkan Piala FA 2014. Mertesacker kemudian menjadi kapten tim dan mencetak gol saat Arsenal mempertahankan gelar tersebut setahun kemudian, sebelum akhirnya menjadi kapten tunggal klub pada tahun 2016. Ia kembali menjadi bintang dalam kemenangan ketiganya di Piala FA pada tahun 2017. Namun, cedera menghambat karir terakhirnya di Arsenal, dan ia digunakan secara terbatas selama dua musim terakhirnya, yang akhirnya memaksa dirinya untuk pensiun pada tahun 2018.
Di level internasional, Mertesacker bermain untuk tim nasional Jerman di level U-20 dan U-21, sebelum melakukan debut untuk tim senior pada tahun 2004 melawan Iran. Setelah debutnya, Mertesacker menjadi bek tengah pilihan utama Jerman selama sepuluh tahun, berpartisipasi dalam Kejuaraan Eropa UEFA 2008 dan 2012, serta Piala Dunia FIFA 2006, 2010, dan 2014, yang terakhir berhasil dimenangkan oleh Jerman. Ia memutuskan untuk pensiun dari kompetisi internasional setelah kemenangan tersebut.
Selain karir sepak bola, Mertesacker juga terlibat dalam berbagai usaha lainnya, termasuk "Per Mertesacker Stiftung", sebuah yayasan amal yang membantu mendukung olahragawan amatir dan orang-orang miskin. Setelah pensiun, ia beralih menjadi pelatih dan saat ini menangani Arsenal Academy.