McCarthy lahir di Cape Town dan tumbuh di Hanover Park di daerah Cape Flats, yang terkenal dengan tingkat pengangguran yang tinggi dan kekerasan geng. Ia adalah anak dari Dudley dan Dora McCarthy dan memiliki dua saudara laki-laki dan seorang saudara perempuan. Kakaknya yang lebih tua, Jerome McCarthy, adalah mantan pemain sepak bola profesional yang bermain untuk Kaizer Chiefs dan Manning Rangers, di antara klub lainnya, sementara adiknya Mark bermain sepak bola di Franklin Pierce University di Amerika Serikat. McCarthy mulai bermain di klub lokal bernama Young Pirates yang dikelola oleh pamannya. Kemudian, ia bergabung dengan struktur pemuda klub amatir lokal bernama Crusaders. Pada usia 17 tahun, ia bergabung dengan klub divisi pertama bernama Seven Stars.
Berkostum Seven Stars, McCarthy yang berusia 18 tahun mencetak 1 gol dalam 29 pertandingan musim 1995-1996, diikuti dengan 12 gol dalam 20 pertandingan, yang membuatnya pindah ke Cape Town Spurs, yang dua tahun kemudian bergabung dengan Seven Stars untuk membentuk tim feeder klub Belanda, Ajax Cape Town.
Pada tahun 1997, setelah penampilan impresif di Kejuaraan Pemuda Afrika dan Kejuaraan Pemuda FIFA di Malaysia, McCarthy bergabung dengan Ajax di Eredivisie, di mana ia mencetak sembilan gol dan menjadi juara di musim pertamanya. Setelah musim 1998-1999 yang relatif sukses, ia dijual ke klub Spanyol, Celta Vigo, dengan biaya transfer yang dilaporkan mencapai lebih dari €6 juta, pada saat itu menjadi transfer termahal untuk pemain Afrika Selatan.
Meskipun dianggap sebagai salah satu pemain Afrika terbaik saat itu, McCarthy tidak pernah berhasil menjadi pilihan utama bagi manajer Celta, Víctor Fernández. Setelah dua musim buruk di klub Galicia itu, ia dipinjamkan ke Porto yang sedang berjuang pada musim 2001-2002, di mana ia segera menemukan kembali performa yang membawanya ke Eropa.
Di Porto, McCarthy bermain di bawah pelatih yang baru ditunjuk saat itu, José Mourinho, untuk tim yang di bawah performanya dan sejak memenangkan Piala Eropa pada tahun 1987 tidak pernah cukup baik untuk bersaing di puncak kompetisi di Eropa. Namun, itu akan segera berubah.
Setelah mewakili Bafana Bafana di Piala Negara Afrika 2002, di mana tim nasionalnya tereliminasi di perempat final, McCarthy kembali ke Porto, di mana ia menjadi kekuatan utama di balik pemulihan tim. Ia membantu mereka finis di peringkat ketiga di Primeira Liga dan lolos otomatis ke Piala UEFA dengan mencetak 12 gol impresif dalam 11 pertandingan, tetapi keuangan Porto tidak memungkinkan mereka untuk mempertahankan pemain ini, meskipun ada keinginan dari kedua belah pihak untuk melanjutkan.
Pada musim 2002-2003, McCarthy kembali ke Celta, di mana ia menghabiskan sebagian besar waktunya di bangku cadangan sebagai pemain skuad, sementara Porto berhasil memenangkan Taça de Portugal, Liga Portugal, dan Piala UEFA. Ketika Porto menjual penyerang Hélder Postiga ke Tottenham Hotspur menjelang musim 2003-2004, Porto akhirnya mendapatkan McCarthy dengan harga €7,856 juta.
Pada musim Primeira Liga 2003-2004, ia meraih penghargaan Sepatu Emas (dengan 20 gol dalam 23 pertandingan) di hari terakhir musim dengan mencetak hat-trick, dan berperan penting dalam perjalanan Porto di Liga Champions UEFA 2003-2004, yang mereka menangkan. Ia mencetak dua gol melawan Manchester United untuk mengalahkan mereka di babak kedua.
Pada tanggal 25 Juli 2006, McCarthy terbang ke Inggris untuk menjalani pemeriksaan medis dan kemungkinan menandatangani kontrak untuk bergabung dengan Blackburn Rovers. Tiga hari kemudian, ia menandatangani "
Follow