Joseph Yobo lahir di Kono, sebuah komunitas Ogoni di Khana Local Government Area, Rivers State, Nigeria. Ia meninggalkan Nigeria untuk bergabung dengan Standard Liège pada tahun 1998. Debut pertamanya bersama tim utama terjadi pada tahun 2000 dan ia tampil sebanyak 46 kali. Pada tahun 2001, ia dibeli oleh Marseille.
Setelah debutnya, Yobo dipinjamkan ke Tenerife. Setelah sekitar sembilan bulan, Yobo kembali ke Marseille sebelum akhirnya bergabung dengan Everton, lagi-lagi dengan status pinjaman, pada Juli 2002. Untuk meregistrasi pemain ini, diperlukan biaya sebesar £1 juta dan ia menjadi tanda tangan pertama David Moyes sebagai manajer Everton. Opsi untuk membuat kepindahannya menjadi permanen diambil dan diselesaikan pada tahun 2003 setelah adanya perselisihan antara Yobo dan Marseille, dengan Everton setuju membayar biaya tambahan sebesar £4 juta. Yobo menjadi salah satu pemain paling konsisten di skuad Everton dan menjadi salah satu dari tujuh pemain di seluruh liga yang bermain setiap menit di setiap pertandingan sepanjang musim 2006-2007; rekan setimnya, Joleon Lescott, juga menjadi pemain yang tampil di setiap pertandingan sepanjang musim tersebut.
Pada tahun 2006, penundaan dalam menandatangani kontrak baru dengan Everton memunculkan rumor kepindahannya ke Arsenal, namun pada tanggal 22 Juli, Yobo memutuskan untuk tetap berada di Goodison Park hingga tahun 2010. Pada tanggal 15 April 2007, Yobo menjadi pemain asing dengan penampilan terbanyak untuk Everton, rekor yang ia pegang hingga awal tahun 2012. Pada pertandingan UEFA Cup melawan Larissa dari Yunani pada tanggal 25 Oktober 2007, Yobo ditunjuk sebagai kapten menggantikan Phil Neville dan menjadi orang Afrika pertama yang menjadi kapten klub tersebut. Pada tanggal 6 Mei 2009, Yobo mencetak gol pertamanya musim ini melawan West Ham United untuk mengamankan kemenangan 3-1.
Pada musim 2009-2010, Yobo harus beradaptasi dengan pasangan barunya di lini pertahanan, Sylvain Distin, setelah Joleon Lescott hengkang dan Phil Jagielka mengalami cedera. Pada tanggal 29 November 2009, ia mencetak gol bunuh diri dalam kekalahan 0-2 Everton dari Liverpool dalam derbi Merseyside. Distin, Jagielka, dan John Heitinga semakin sering dipilih daripada Yobo, sehingga ia lebih sering berada di bangku cadangan.
Pada tanggal 31 Agustus 2010, Yobo menandatangani kontrak pinjaman selama satu tahun dengan Fenerbahçe. Ia bermain dalam 30 pertandingan resmi dan mencetak satu gol, membantu timnya meraih gelar juara liga. Pada tanggal 6 September 2011, Fenerbahçe dan Everton sepakat untuk perpanjangan kontrak pinjaman senilai €700.000 dan Yobo menandatangani kontrak selama satu tahun senilai €2,35 juta. Pada tanggal 4 Agustus 2012, ia kembali bergabung dengan Fenerbahçe, kali ini dengan kontrak permanen selama tiga tahun setelah bermain untuk Everton selama 10 tahun. Pada tanggal 17 Agustus, Fenerbahçe melawan Torku Konyaspor dan Yobo mencetak gol dalam pertandingan tersebut. Sebelum musim 2014-2015 dimulai, kontrak Yobo dengan Fenerbahçe diakhiri dengan kesepakatan bersama. Pada tanggal 31 Agustus 2014, ia diberikan plakat penghargaan dan dilepas oleh Fenerbahçe.
Pada tanggal 30 Januari 2014, Yobo kembali ke Inggris dengan status pinjaman ke Norwich City untuk sisa musim dengan kemungkinan pindah secara permanen pada musim panas. Ia membuat debutnya untuk klub dengan clean sheet melawan klub papan atas Manchester City pada tanggal 8 Februari.
Yobo adalah mantan pemain internasional Nigeria yang telah tampil sebanyak 101 kali dan mewakili Super Eagles dalam tiga Piala Dunia FIFA dan enam turnamen Piala Afrika. Setelah berpartisipasi dalam perjalanan Nigeria ke perempat final Piala Dunia FIFA U-20 tahun 1999, Yobo melakukan debut internasional senior melawan Zambia dalam kualifikasi Piala Dunia FIFA 2002 pada tanggal 24 Maret 2001. Ia bermain dalam enam pertandingan timnas dalam Piala Afrika 2002 dan masuk dalam skuad untuk Piala Dunia FIFA 2002, di mana ia juga tampil di pertandingan-pertandingan timnya.