Lahir di St Helier, Surrey, John dibesarkan di Brixton. Ia awalnya bekerja sebagai petugas asuransi kemudian di Badan Kelistrikan London, sebelum kemudian menjadi seorang eksekutif di Standard Chartered. Ia terpilih pertama kali ke dalam Dewan Rakyat pada pemilihan umum 1979 sebagai MP dari Huntingdon. Ia menjabat sebagai Sekretaris Privat Parlemen, Asisten Whip dan Menteri Jaminan Sosial. Pada tahun 1987, ia bergabung ke dalam kabinet sebagai Sekretaris Utama Perbendaharaan, dan dipromosikan menjadi Menteri Luar Negeri dua tahun kemudian. Hanya setelah 3 bulan kemudian pada Oktober 1989, ia ditunjuk menjadi Menteri Keuangan, dimana ia mempresentasikan anggaran negara tahun 1990 budget. John Major lalu menjadi perdana menteri setelah Margaret Thatcher mengundurkan diri pada November 1990. Ia memimpin partisipasi Inggris dalam Perang Teluk pada Maret 1991, dan ikut berunding pada Perjanjian Maastricht pada Desember 1991. Ia memimpin Partai Konservatif memenangi pemilu empat kali berturut-turut, dengan kemenangan suara terbesar dalam sejarah Inggris dengan total lebih dari 14 juta suara pada pemilihan umum 1992. Sesaat setelah kemenangan tersebut, dalam peristiwa yang disebut "Black Wednesday" (September 1992), pemerintahannya terpaksa menarik pound sterling dari Mekanisme Nilai Tukar Eropa. Kejadian ini menjadikan pamor Partai Konservatif menurun dan John tidak pernah lagi memimpin dalam jajak pendapat di parlemen.