ఆయనకి ప్రధానమంత్రి పదవి అనుకోకుండా వరించింది. 1991 సార్వత్రిక ఎన్నికలలో పోటీ చెయ్యకుండా, దాదాపుగా రాజకీయ సన్యాసం తీసుకున్నాడు. ఆ సమయంలో రాజీవ్ గాంధీ హత్య కారణంగా కాంగ్రెసు పార్టీకి నాయకుడు లేకుండా పోయాడు. ఆ సమయంలో తనకంటూ ప్రత్యేక గ్రూపు లేని పీవీ అందరికీ ఆమోదయోగ్యుడుగా కనపడ్డాడు. వానప్రస్థం నుండి తిరిగివచ్చి ప్రధానమంత్రిగా బాధ్యతలు స్వీకరించాడు. ఆంధ్ర ప్రదేశ్ లోని నంద్యాల లోక్‌సభ నియోజకవర్గం నుండి గంగుల ప్రతాపరెడ్డిచే రాజీనామా చేయించి, అక్కడి ఉప ఎన్నికలో గెలిచి, పీవీ లోక్‌సభలో అడుగుపెట్టాడు. సాటి తెలుగువాడు ప్రధాని ఆవుతున్నాడని నంద్యాల పార్లమెంట్ సీటుకు జరిగిన ఉప ఎన్నికలలో ఎన్.టి.రామారావు అతనుపై తెలుగు దేశం అభ్యర్థిని పోటీలో పెట్టలేదు. అయితే ప్రభుత్వానికి, కాంగ్రెసు పార్టీకి అది చాలా క్లిష్టసమయం. ప్రభుత్వానికి సంపూర్ణ మెజారిటీ లేని పరిస్థితి. సహజ సిద్ధంగా ఉన్న తెలివితేటలు, కేంద్రంలో వివిధ మంత్రిత్వ శాఖల్లో అతనుకు ఉన్న అపార అనుభవం అతనుకు ఈ క్లిష్టసమయంలో తోడ్పడ్డాయి. ఐదు సంవత్సరాల పరిపాలనా కాలాన్ని పూర్తి చేసుకున్న ప్రధానమంత్రుల్లో నెహ్రూ, గాంధీ కుటుంబంబాల బయటి మొదటి వ్యక్తి, పీవీయే. మైనారిటీ ప్రభుత్వానికి నేతృత్వం వహిస్తూ కూడా, ఇది సాధించడం అతను రాజనీతికి, చాకచక్యానికి నిదర్శనం. అందుకే అతను్ని అపర చాణక్యుడు అని అన్నారు. అందుకు అతను అనుసరించిన కొన్ని విధానాలు వివాదాస్పదం అయ్యాయి కూడా.