Hans avgång kommer mitt i planer på att minska cirka 1.200 jobb som en del av en "strategisk förändring" plan.
Woolworths är ute efter att skära miljontals dollar i kostnader och förbättra försäljningen efter dess första hälften vinst föll.
Det hoppas att vinna tillbaka kunder från rivaler som Coles och Aldi genom att sänka priserna och förbättra butiker.
Återförsäljaren klippte nyligen sin vinst vägledning för året fram till juni, vilket bara skulle vara den andra nedgången i årsvinster för företaget.
Sedan offentliggörandet var det enda året som Woolworths årliga vinst minskade 1999.
"Den senaste tidens resultat har varit en besvikelse och under förväntningarna. Jag tror att det är i företagets bästa intresse att nya ledare ser dessa planer för att förverkliga", sade O'Brien.
Woolworths sa att det skulle börja leta efter en ny chef. Företagets chef för detaljhandeln, Penny Winn, kommer också att sluta.
Aktierna i Woolworths steg med 2,4 % i Sydney-handeln efter nyheterna.
Chefen för Australiens Woolworths, Grant O'Brien, avgår efter nästan fyra år i snabbköpskedjan.