Στις 28 Νοεμβρίου 1990 μετά την παραίτηση της Θάτσερ από την πρωθυπουργία, ο Μέιτζορ διορίστηκε σε αυτή τη θέση. Κατά τη διάρκεια της θητείας του το Ηνωμένο Βασίλειο αναμείχθηκε ενεργά στον Πόλεμο του Κόλπου το 1991 και διαπραγματεύτηκε τη Συνθήκη του Μάαστριχτ το 1992. Στις αρχές της δεκαετίας του 1990, το Ηνωμένο Βασίλειο αντιμετώπισε μεγάλη οικονομική κρίση, με πολλές επιχειρήσεις να κλείνουν ή να χρεοκοπούν, ενώ η ανεργία έφτασε σε υψηλότατα επίπεδα το 1991. Παρά τις αντίθετες προβλέψεις, το Συντηρητικό Κόμμα κέρδισε με μικρή πλειοψηφία τις γενικές εκλογές του 1992 και ο Μέιτζορ παρέμεινε στο πόστο του. Στην οικονομία, ο Μέιτζορ εφάρμοσε νεοφιλελεύθερη συντηρητική πολιτική και κατάργησε το λεγόμενο κεφαλικό φόρο επί κυβέρνησης Μάργκαρετ Θάτσερ, ο οποίος είχε ξεσηκώσει διαμαρτυρίες και τον αντικατέστησε το 1992 με τα δημοτικά τέλη. Ο Μέιτζορ, θερμός φιλοευρωπαϊστής, επιθυμούσε την ένταξη της Μεγάλης Βρετανίας σε κοινή νομισματική ζώνη με άλλα κράτη, αλλά ωστόσο οι σφοδρές διαμαρτυρίες από το ίδιο του το κόμμα τον ανάγκασαν να αποσύρει την πρότασή του. Ο Μέιτζορ επίσης έθεσε την έναρξη των συνομιλιών με τη Βόρεια Ιρλανδία για την τελική ειρήνευση, πράγμα που αναγνωρίζεται ως η μεγαλύτερη επιτυχία της εξωτερικής πολιτικής του. Η οικονομική ανάκαμψη μετά το 1995 ανέβασε τη δημοτικότητα της κυβέρνησης, ωστόσο τα πολυάριθμα σκάνδαλα μελών του Συντηρητικού Κόμματος επέφεραν μεγάλο πλήγμα στην αξιοπιστία της κυβέρνησης και το 1996 το Συντηρητικό Κόμμα απώλεσε την κοινοβουλευτική πλειοψηφία. Τελικά, ο δημοφιλής ηγέτης του Εργατικού Κόμματος Τόνι Μπλερ κατάφερε να νικήσει στις γενικές εκλογές του 1997 το Μέιτζορ με διαφορά 13%. Ο Μέιτζορ παρέδωσε τη θέση του στις 2 Μαΐου 1997 και παρέμεινε επί ένα μήνα αρχηγός της αντιπολίτευσης και του Συντηρητικού Κόμματος έως τον Ιούνιο του 1997, οπότε παραιτήθηκε και από αυτές τις θέσεις. Το 2001 παρέδωσε και τη βουλευτική του έδρα και από τότε έχει αποχωρήσει από την πολιτική.