ביוני 1973 פרש שרון מצה"ל והצטרף למפלגה הליברלית, שהייתה שותפה עם תנועת החרות ב"גוש חרות ליברלים". הוא יזם יצירת גוש ימני גדול יותר ופעל להקמת הליכוד. בדצמבר 1973 נבחר לכנסת השמינית מטעם הליכוד, במקום השישי ברשימה כנציג התנועה הליברלית. כעבור שנה התפטר מן הכנסת, כדי שיוכל להמשיך להחזיק במינוי של מפקד אוגדת מילואים. בשנת 1975 התמנה ליועץ לענייני ביטחון לראש הממשלה יצחק רבין.
בסוף שנת 1976, לקראת הבחירות לכנסת התשיעית, הקים מפלגה בראשותו בשם "שלומציון". המפלגה זכתה בשני מושבים בכנסת, והתמזגה עם תנועת החרות מיד לאחר הבחירות. שרון התמנה לשר החקלאות בממשלה שהקים מנחם בגין, ופעל להקמת התנחלויות ביהודה ושומרון ומצפים בגליל.
לאחר התפטרותו של עזר ויצמן מתפקיד שר הביטחון ב-1980, שאף שרון להתמנות לתפקיד זה, אך בגין סירב ובין השניים נוצרה מתיחות.
כשר הביטחון.
בשנת 1981, לאחר הבחירות לכנסת העשירית (שבהן הוצב במקום ה-12 ברשימת הליכוד), התמנה שרון לשר הביטחון בממשלתו השנייה של מנחם בגין. האילוץ שהביא את בגין למנותו לשר ביטחון, היה בראש ובראשונה ביטחונו בכך ששרון יוכל להוביל ללא שפיכות דמים את פירוק היישובים בסיני. ובתפקידו זה אכן ניהל את פינוי המתיישבים מסיני והרס יישובי חבל ימית באפריל 1982.
מלחמת לבנון.
בשנת 1982 יזם שרון, באישור הממשלה, את מלחמת לבנון הראשונה, שהחלה כ"מבצע שלום הגליל" - מבצע צבאי לביעור ארגוני הטרור הפלסטינים בדרום לבנון, שם הקים אש"ף מובלעת ("פתחלנד") שאיימה על תושבי הגליל.
המלחמה נפתחה ב-6 ביוני 1982 בעקבות התנקשות בשגריר ישראל בלונדון, שלמה ארגוב, שהביאה את ישראל לפגוע במתקני אש"ף בלבנון ובעקבות זאת למטחי קטיושות עזים שנפלו במרכז העיר קריית שמונה ולכל אורך גבול הגליל. על פי הכרזת בגין בכנסת, הוגבל המבצע לכניסת כוחות צה"ל עד 40 ק"מ צפונה מקו הגבול עם לבנון, מרחק הגדול מטווח הקטיושות של ארגוני הטרור. בפועל צה"ל פעל הרחק מקו זה והגיע עד ביירות, בירת לבנון במטרה לחסל את קיומו של אש"ף בלבנון. כשלושה חודשים מתחילת הלחימה התפנו כוחות אש"ף הנצורים בביירות בחסות בינלאומית לתוניס, כאשר הם מותירים מאחריהם כאלף הרוגים וכ-6,000 שבויים. בעקבות המבצע נשארו כוחות צה"ל בעומק לבנון עוד כשלוש שנים, והיו נתונים לעימותי גרילה קשים עם גורמים שונים ובהם ארגון חזבאללה שהתעצם. האבדות שספג צה"ל ומה שנתפס כחוסר התוחלת בהישארות בעומק לבנון, יחד עם שמועות עקשניות לפיהן שרון הטעה את ראש הממשלה, בגין, לגבי טווח חדירת צה"ל ללבנון, גרמו לירידה חדה בפופולריות של המלחמה ולפגיעה במעמדו הציבורי של שרון. הביקורת בממשלה על תפקודו של שרון כשר הביטחון הביאה לידי כך שב-12 באוגוסט 1982 החליטה הממשלה ברוב קולות (בהתנגדותם של שרון ויובל נאמן) לקחת משרון את הסמכות הבלעדית להפעלת חיל האוויר והוא נדרש לצורך כך באישור מוקדם של ראש הממשלה בגין.
המחאה הציבורית ופרשת טבח סברה ושתילה.
מלחמת לבנון החלה כמלחמה עם קונצנזוס ציבורי נרחב שבא לידי ביטוי בתמיכת האופוזיציה בממשלה. לאחר סילוק אש"ף וסוריה מלבנון החלה ירידה בפופולריות של המלחמה בעיקר בגלל מספר ההרוגים שהחל להצטבר לאחר סילוק אש"ף. מבקריו בשמאל של אריאל שרון טענו ששרון שיקר לראש הממשלה ולציבור במידע שמסר על מטרות המבצע. בחלוף השנים, קבע בית משפט המחוזי בתל אביב כי אכן שרון לא נהג ביושר עם ראש הממשלה בגין. משקל מכריע ניתן במשפט לעדותו של בני בגין, לפיה שרון אכן הטעה את אביו.
המחלוקת באה לידי ביטוי בהפגנות של השמאל ובמיוחד בלטה בנושא תנועת "שלום עכשיו". שירו של שלום חנוך "לא עוצר באדום" היה לשיר מחאה כנגד שרון (אם כי חנוך טען שהשיר לא נכתב באופן ספציפי על שרון). שיר מחאה מפורסם נוסף חובר על ידי חיילים שנלחמו בלבנון: בנוסח שיר הילדים "רד אלינו אווירון".
במהלך שהות צה"ל בבירת לבנון ביירות, בספטמבר 1982, ערך הארגון הלבנוני "הפלנגות הנוצריות" טבח במחנות הפליטים הפלסטיניים סברה ושתילה שבעיר. הטבח אירע לאחר רצח בשיר ג'ומייל, מנהיג הפלנגות, שנבחר בתמיכת ישראל לנשיא לבנון. בעקבות הרצח של ג'ומייל השתלט צה"ל על מערב ביירות, המאוכלסת במוסלמים (עד אז שלט רק בצד המזרחי, הנוצרי). טיהור מחנות הפליטים מלוחמים פלסטינים הוטל על ידי ישראל על כוחות הפלנגות. הפלנגות נכנסו למחנות הפליטים סברה ושתילה בערבו של 16 בספטמבר, ותוך זמן קצר החלו בהרג חסר הבחנה. הם יצאו מהמחנות בבוקר 18 בספטמבר, על פי דרישת צה"ל, ורק במהלך היום החלו להתברר ממדי הטבח. אין ידיעה מדויקת על מספר הנספים בטבח, וההערכה היא שמדובר בכ-700 עד 800 איש.
בעקבות הפגנת הארבע מאות אלף ולחץ דעת הקהל בישראל ומחוצה לה מונתה ועדת חקירה ממלכתית, ועדת כַּהָן, לחקור את הטבח. הוועדה קבעה כי אכן לא הייתה מעורבות ישירה של צה"ל בטבח, אך פסקה כי שרון אחראי להתעלמות מהסכנה שהפלנגות יערכו במחנות הפליטים פעולות נקם על רצח מנהיגם. בעקבות זאת המליצה הוועדה ששרון יסיים את כהונתו, ושתיק הביטחון לא יופקד יותר בידיו. שרון סירב להתפטר, אך בעקבות החלטת הממשלה ב-10 בפברואר 1983 הודח מתפקיד שר הביטחון (ב-14 בפברואר 1983), ונשאר בממשלה כשר בלי תיק.
ב-21 בפברואר 1983 פרסם השבועון "טיים" כתבה, ממנה עולה כי שרון שוחח עם בני משפחתו של בשיר ג'ומייל על נקמה, בטרם הכניס את הפלנגות למחנות הפליטים בביירות. שרון הגיש נגד העיתון תביעות דיבה שהתנהלו בניו יורק ובישראל. לאחר שנתיים הסתיימה התביעה בניו יורק וחבר המושבעים קבע כי הפיסקה אינה נכונה, וכי יש בה כדי להוציא דיבתו של שרון רעה, שכן עולה ממנה כי כאשר הורה על הכנסת הפלנגות למחנות הייתה לו כוונה כי אלו ינקמו את מות מנהיגם. כן קבע חבר המושבעים כי הדיבה היא חמורה יותר מכיוון שנטען בכתבה ששיחה זו מופיעה בנספח סודי לדו"ח ועדת כהן. בבית המשפט הודה "טיים" כי לא ראה נספח זה. אף־על־פי־כן, חבר המושבעים זיכה את "טיים" בטענה כי כאשר פרסם את העובדות עשה זאת ללא סיבה להאמין כי אינן נכונות, וכי שרון אינו זכאי לפיצויים.
שר המסחר והתעשייה ושר הבינוי והשיכון.
לקראת הבחירות לכנסת האחת עשרה בשנת 1984 החליט שרון להתמודד על ראשות תנועת חירות והליכוד מול יצחק שמיר, ראש הממשלה המכהן. שרון הפסיד בבחירות, אך להפתעת הפרשנים זכה בכ-42% מקולות חברי מרכז חירות. לבסוף הוצב במקום החמישי ברשימה, ולאחר הבחירות לכנסת התמנה לשר המסחר והתעשייה בממשלת האחדות הלאומית.
1990-1984 - שר המסחר והתעשייה.
בתקופה זאת היה חבר בוועדת השרים לחוץ וביטחון, ובתקופתו נחתם הסכם סחר חופשי עם ארצות הברית. בבחירות לכנסת השתים עשרה הוצב במקום הרביעי ברשימת הליכוד.
בנובמבר 1987 רכש שרון דירה בבית ויטנברג ברובע המוסלמי בעיר העתיקה בירושלים. לפני רכישת הבית אמר שרון למקורביו: . בחנוכת הבית שערך שרון השתתפו ראש הממשלה יצחק שמיר, שרים ועשרות חברי כנסת, הרב שלמה גורן וותיקי יחידה 101. שרון התגורר בבית עם רעייתו לילי מספר ימים בשבוע וערך בו כינוסים לפעילי הליכוד. בעקבות זאת הוגברה האבטחה במקום.
בפברואר 1990 התפטר מהממשלה, תוך שהוא עושה זאת באירוע שזכה לכינוי "ליל המיקרופונים" – כינוס מרכז מפלגת הליכוד ב-12 בפברואר 1990 שבמהלכו הודיע שרון על התפטרותו מהממשלה, ולאחר מכן, באמצעות השתלטות על מערכת ההגברה במקום סיכל את ההצבעה על תוכנית מדינית שהובאה בפני חברי המרכז באותה עת.
1990–1992 – שר הבינוי והשיכון.
ביוני 1990, עם הקמת ממשלה צרה בראשותו של יצחק שמיר, התמנה לשר הבינוי והשיכון. באותה עת נוצר משבר דיור עם הגעתם של מאות אלפי עולים מברית המועצות לשעבר לישראל. משרד הבינוי והשיכון בראשותו של שרון פעל לבנייה מואצת של דירות על ידי מתן הקלות שונות ליזמים, כמו התחייבות לקנות דירות שלא יימכרו בשוק החופשי. בנוסף, משרד השיכון הקים אתרי קרוואנים ואפשר הקלות בנייה דרך תמ"א 33. שרון עודד יזמים להתחיל לבנות עוד בטרם נחתמו איתם חוזים מחייבים המעגנים את התחייבויות המדינה ליזמים. על התנהלות זאת כתבו שופטי בית המשפט העליון שנראה שהשר ונציגי משרד השיכון לא הקפידו לנהוג בדרך מקובלת ובהגינות כלפי היזמים ולא פרשו בפניהם את מלוא הסיכונים שהם נוטלים על עצמם בנסיבות העניין, כפי שהיה עליהם לעשות. בתקופת כהונתו נבנו 144 אלף דירות ו-22 אלף דירות שופצו מהיסוד, בהן בתים רבים שנבנו ביהודה ושומרון. תקופה זאת נחשבת לשיא הבנייה בארץ ובה היה תקציב משרד השיכון הגדול בתקציבי משרדי הממשלה, כולל משרד הביטחון. שרון הוצב במקום השלישי ברשימת הליכוד במהלך הבחירות לכנסת השלוש עשרה, שבהן הפסיד הליכוד.
הסכמי אוסלו.
בתקופת ממשלת יצחק רבין התבטא שרון בחריפות נגד תהליך אוסלו, בו ראה סכנה חמורה לביטחון המדינה, ואף אמר כי במדינה אחרת היו מעמידים לדין את רבין ופרס בשל הסכמים אלה. ביולי 1995 הוסיף ואמר, על רקע פינוי בסיסי צה"ל ביהודה ושומרון וחבל עזה:
שרון ניצב, עם בנימין נתניהו ומשה קצב, על מרפסת הנואמים בהפגנת הימין בכיכר ציון נגד יצחק רבין והסכם אוסלו ב'.
את הטענה שיהודי עלול להתנקש בראש הממשלה כינה שרון באותו זמן "עלילת דם"; אף על פי כן, גם לאחר הרצח קיימה איתו משפחת רבין מערכת יחסים טובה.
1996–1998 – שר התשתיות הלאומיות ושר החוץ.
ב-8 ביולי 1996 התמנה לשר התשתיות בממשלתו של בנימין נתניהו, משרד שנוצר מחלקי משרדים אחרים, לא לפני שדוד לוי, בכיר בליכוד, הטיל את כל כובד משקלו כדי ששרון יקבל תפקיד בממשלה. ברשימה המשותפת עם גשר וצומת במערכת הבחירות, הוצב שרון במקום החמישי.