Setelah singkat menjabat di Senat Tennessee, Johnson terpilih sebagai anggota Dewan Perwakilan Rakyat pada tahun 1843, di mana ia menjabat selama lima periode dua tahun. Johnson kemudian menjadi gubernur Tennessee selama empat tahun dan terpilih oleh legislatif sebagai senator pada tahun 1857. Selama masa jabatannya di kongres, ia berupaya untuk meloloskan Undang-Undang Homestead yang kemudian disahkan setelah ia meninggalkan kursi senatnya pada tahun 1862.
Pada saat negara bagian budak di selatan memisahkan diri dan membentuk Negara Konfederasi Amerika, termasuk Tennessee, Johnson tetap setia pada Persatuan. Ia adalah satu-satunya senator yang berasal dari negara bagian Konfederasi yang tidak mengundurkan diri setelah mengetahui negaranya memisahkan diri. Pada tahun 1862, Lincoln menunjuknya sebagai Gubernur Militer Tennessee setelah sebagian besar wilayahnya berhasil direbut kembali. Pada tahun 1864, Johnson dipilih sebagai pasangan calon Abraham Lincoln dalam pemilihan presiden untuk menyampaikan pesan persatuan nasional, dan ia menjadi wakil presiden setelah kemenangan dalam pemilihan tersebut.
Sebagai presiden, Johnson menerapkan kebijakan rekonstruksi presidensialnya sendiri, yang melibatkan serangkaian proklamasi yang menginstruksikan negara-negara yang memisahkan diri untuk mengadakan konvensi dan pemilihan untuk memperbaiki pemerintahan sipil mereka. Negara-negara bagian di selatan mengembalikan banyak pemimpin lama mereka dan mengesahkan Black Codes untuk mencabut banyak kebebasan sipil orang-orang yang baru dibebaskan, namun para anggota Kongres dari Partai Republik menolak untuk mengakui legislator dari negara-negara tersebut dan mengusulkan undang-undang untuk menggagalkan tindakan-tindakan tersebut. Johnson memveto undang-undang mereka, namun Kongres Republik berhasil mengesahkannya, membentuk pola yang berlangsung selama sisa masa jabatannya. Johnson juga menentang Amendemen Keempat Belas yang memberikan kewarganegaraan kepada bekas budak. Pada tahun 1866, ia melakukan tur nasional yang belum pernah terjadi sebelumnya untuk mempromosikan kebijakan eksekutifnya, dengan tujuan untuk mengatasi oposisi dari Partai Republik. Konflik antara cabang-cabang pemerintahan semakin memuncak, dan Kongres mengesahkan Undang-Undang Tenure of Office yang membatasi kemampuan Johnson untuk memberhentikan pejabat-pejabat kabinet. Johnson tetap berusaha untuk memberhentikan Menteri Perang Edwin Stanton, namun akhirnya ia diimpeach oleh Dewan Perwakilan Rakyat dan dengan sempit menghindari pemecatannya oleh Senat. Ia tidak berhasil memenangkan nominasi presiden dari Partai Demokrat pada tahun 1868 dan meninggalkan jabatannya pada tahun berikutnya.
Setelah masa jabatannya sebagai presiden, Johnson kembali ke Tennessee dan mendapatkan sedikit pembelaan ketika ia terpilih sebagai senator pada tahun 1875, menjadikannya satu-satunya presiden yang kemudian menjabat sebagai senator. Namun, ia meninggal dunia hanya lima bulan setelah memulai masa jabatannya sebagai senator. Sikap Johnson yang sangat menentang hak-hak yang dijamin oleh pemerintah federal bagi orang-orang Amerika keturunan Afrika mendapat banyak kritik. Para sejarawan secara konsisten menempatkannya sebagai salah satu presiden terburuk dalam sejarah Amerika.
Follow