Han ble av statsminister Yitzhak Rabin utpekt til forsvarsrådgiver i 1975. Sharon skulle hjelpe til med å få hæren på fote igjen etter en krig som gikk hardt ut over ryktet, særlig til toppsjiktet i hæren.