Karir bermain Ferrara dimulai di klub Napoli pada tahun 1980. Setelah lulus dari tim muda Napoli pada tahun 1984, ia mulai mendapat panggilan untuk bermain di tim utama. Pada musim berikutnya, Ferrara menjadi bagian dari starting XI dan juga dipanggil untuk bermain di tim nasional Italia, termasuk dalam skuad Piala Dunia FIFA 1990. Bersama Napoli, ia berhasil memenangkan dua gelar Serie A (pada musim 1986-1987 dan 1989-1990), Coppa Italia 1987, dan Supercoppa Italiana 1990.
Pada musim panas tahun 1994, Ferrara pindah ke Juventus di bawah pelatih Marcello Lippi. Ia segera menjadi bagian dari starting XI dan bermain lebih dari 40 pertandingan untuk klub tersebut dalam satu musim pertamanya. Ferrara dianggap sebagai salah satu bek tengah terbaik generasinya. Ia memenangkan delapan gelar Serie A, enam di antaranya bersama Juventus dan dua bersama Napoli. Selama kariernya di Juventus, Ferrara juga berhasil memenangkan dua gelar Coppa Italia, tiga gelar Supercoppa Italiana, serta beberapa kompetisi Eropa seperti Liga Champions UEFA, Piala UEFA, Piala Interkontinental, dan Piala Super Eropa.
Ferrara juga berkarir di tim nasional Italia, di mana ia tampil sebanyak 49 kali. Ia bermain di Piala Dunia FIFA 1990 di tanah air Italia, di mana Italia berhasil finis di posisi ketiga setelah kalah dalam adu penalti melawan Argentina. Ia juga bermain di Euro 2000.
Setelah pensiun sebagai pemain sepak bola pada tahun 2005, Ferrara beralih ke karir kepelatihan. Ia melatih beberapa klub, termasuk Juventus dan Wuhan Zall. Ferrara dikenal sebagai sosok yang berpengalaman dan sukses dalam karirnya sebagai pemain dan pelatih sepak bola.