Toldo memulai karirnya dengan Milan pada tahun 1990, tetapi tidak pernah bermain untuk klub tersebut. Ia kemudian dipinjamkan ke beberapa klub seperti Hellas Verona, Trentino, dan Ravenna. Toldo kemudian bergabung dengan Fiorentina pada tahun 1993 dan menjadi kiper utama klub tersebut selama delapan musim. Ia membantu klub memenangkan gelar Serie B dalam musim pertamanya dan promosi ke Serie A. Selain itu, Toldo juga dua kali memenangkan Coppa Italia, Supercoppa Italiana, dan bermain dalam satu edisi Liga Champions UEFA. Pada tahun 2000, Toldo dinobatkan sebagai Kiper Terbaik Serie A.
Sebelum Fiorentina menghadapi kebangkrutan, Toldo dan Rui Costa dijual ke Parma dengan total harga 140 miliar lire pada Juni 2001. Namun, keduanya menolak untuk bergabung dengan Parma. Toldo kemudian bergabung dengan Inter Milan dengan harga yang sama. Bersama Inter di bawah manajer Héctor Cúper, Toldo mencapai level yang tinggi. Ia membantu Inter mencapai semifinal Piala UEFA dan hampir saja memenangkan gelar Serie A pada musim 2001-2002. Toldo kemudian menjadi favorit para penggemar Inter dan terkenal karena penampilannya yang penuh semangat dan berkualitas tinggi.
Musim berikutnya, Toldo dipuji khususnya karena penyelamatannya saat melawan Valencia di perempat final Liga Champions, yang membuat para ahli sepak bola memberinya julukan "La Plaza de Toldo". Meskipun Inter kalah di semifinal dari Milan, Toldo tetap memberikan kontribusi yang besar, termasuk dalam gol penyama kedudukan yang dicetak oleh Christian Vieri di menit terakhir pertandingan melawan Juventus pada musim 2002-2003. Meskipun awalnya terlihat bahwa gol tersebut dicetak oleh Toldo, gol tersebut masih sering disebut sebagai "gol Toldo" hingga saat ini.
Pada musim 2004-2005, Toldo membantu Inter memenangkan Coppa Italia dan mencapai perempat final Liga Champions, kalah lagi dari Milan yang kemudian mencapai final. Ia juga meraih gelar Supercoppa Italiana pada tahun 2005. Namun, Toldo kehilangan posisi utama pada musim panas tahun 2005 setelah Júlio César menggantikannya sebagai kiper utama Inter. Toldo hanya sebentar mendapatkan posisi utama kembali pada Februari 2006 sebelum kembali ke bangku cadangan.
Selama karirnya, Toldo juga bermain untuk tim nasional Italia dan mengambil bagian dalam lima kompetisi internasional. Ia menjadi starter dalam UEFA Euro 2000, di mana ia membantu Italia mencapai final. Francesco Toldo adalah salah satu kiper terbaik Italia sepanjang masa yang telah meninggalkan jejak yang mengesankan dalam sepak bola Italia.