Demichelis menghabiskan sebagian besar karir profesionalnya dengan Bayern Munich di Jerman selama tujuh setengah tahun, memenangkan 11 gelar utama bersama tim tersebut. Dia juga berkompetisi di negaranya sendiri dengan River Plate, di Spanyol dengan Espanyol dan Málaga, dan di Inggris dengan Manchester City. Dia telah mengumpulkan 51 caps untuk Argentina, mewakili negaranya dalam dua Piala Dunia - finis sebagai runner-up pada tahun 2014 - dan Copa América 2015, di mana tim tersebut juga menjadi runner-up.
Demichelis memulai karir kepelatihannya sebagai asisten di Málaga dan di tim U-19 dan cadangan Bayern Munich. Dia memenangkan Primera División Argentina pada tahun 2023, musim pertamanya sebagai pelatih River Plate.
Di klub karirnya, Demichelis pertama kali bermain untuk River Plate pada tahun 2001. Dia melakukan debut di tim utama dan divisi pertama pada 2 September 2001 dalam pertandingan melawan Estudiantes de La Plata, mencetak satu-satunya golnya untuk tim melawan Rosario Central. Pada 28 April 2002, Demichelis menggantikan penjaga gawang River Plate yang dikeluarkan pada menit terakhir pertandingan melawan Racing Club de Avellaneda. Ia menghadapi tendangan bebas langsung yang mengenai tembok dan kemudian dimanfaatkan oleh Nelson Cuevas untuk mencetak satu-satunya gol dalam pertandingan tersebut, sehingga River Plate memenangkan gelar Clausura.
Setelah itu, Demichelis bergabung dengan FC Bayern Munich pada musim panas 2003, dengan biaya transfer €4,5 juta. Musim pertamanya di Bundesliga tidak begitu positif karena dia mengalami beberapa cedera kecil, tampil hanya dalam 14 pertandingan liga (21 total) saat Bayern Munich finis di posisi kedua. Di bawah pelatih baru Felix Magath, Demichelis menjadi starter reguler untuk Bayern, tampil dalam 75 pertandingan resmi dalam dua musim berturut-turut saat tim meraih gelar ganda, mencapai total empat gelar selama masa bermainnya.
Pada musim 2008-2009, Demichelis mencetak empat gol terbanyak dalam karirnya dalam 29 pertandingan, tetapi Bayern Munich gagal meraih gelar karena kalah dari VfL Wolfsburg. Namun, Demichelis sering berselisih dengan manajer baru Louis van Gaal, dimulai segera setelah pertandingan pertama musim 2010-2011 di mana ia tidak dimasukkan dalam susunan pemain utama, sehingga Demichelis meminta agar van Gaal menghilangkan namanya dari skuat tim. Pada 29 Oktober 2010, Demichelis mencetak gol dalam kemenangan kandang 4-2 melawan SC Freiburg, menjadi salah satu penampilan terakhirnya untuk Bayern Munich.
Pada akhir Desember 2010, Demichelis setuju untuk bergabung dengan klub Spanyol, Málaga CF, awalnya sampai akhir musim 2010-2011, dengan opsi perpanjangan kontrak selama dua musim tambahan. Dia bergabung kembali dengan mantan manajer River Plate, Manuel Pellegrini, dan melakukan debut di La Liga pada 8 Januari 2011, mencetak gol dalam hasil imbang 1-1 melawan Athletic Bilbao. Selama empat bulan pertamanya dengan Málaga, Demichelis dua kali diusir, tetapi juga menjadi starter dalam semua pertandingan yang tersedia, menjadi elemen penting dalam menghindari degradasi klub. Pada 22 Agustus 2012, ia mencetak gol pertama Málaga di Liga Champions UEFA, membuka skor dalam kemenangan kandang 2-0 melawan Panathinaikos FC. Pada 11 Juli 2013, Demichelis bergabung dengan Atlético Madrid.