Die vulkaan is in die Tharsis-streek geleë, 'n enorme vulkaniese plato by Mars se ewenaar, naby Valles Marineris. Dit is die jongste van die groot vulkane op Mars; dit het binne die laaste 3 miljard jaar ontstaan. Dit is sedert die laat 19de eeu aan sterrekundiges bekend as Nix Olympica (Latyn vir "Olimpiese Sneeu"). Daar is vermoed dat dit ’n berg is lank voor ruimtetuie dit bevestig het.
Olympus Mons stem ooreen met die groot vulkane wat die Hawaise Eilande vorm. Dit is sowat 600 km breed en beslaan ’n gebied omtrent so groot soos die Amerikaanse staat Arizona. Van die voet van die rotse tot by die hoogste piek is dit sowat 22 km. Die buitekant van die vulkaan bestaan uit ’n eskarp van tot 8 km hoog. Buite die vulkaan se eskarp is 'n grag wat met lawa gevul is, waarskynlik afkomstig van Olympus Mons self.
Die helling is nie baie steil nie, en omdat die vulkaan so groot is, sal iemand wat op Mars staan, nie die hele profiel kan sien nie, selfs van ver af. Die kromming van die planeet en die lae helling sal dit verhoed. Net so sal iemand wat naby die piek staan, onbewus wees daarvan dat hy op ’n hoë berg staan omdat die helling van die vulkaan verder as die horison sal strek.
Olympus Mons is die resultaat van baie duisende uitbarsting van hoogs vloeibare lawa oor ’n lang tydperk. Sy buitengewone grootte is waarskynlik te danke aan die feit dat Mars nie tektoniese plate het nie. Anders as op Aarde bly Mars se kors op een plek en ’n vulkaan kan aanhou lawa uitstoot tot dit ’n enorme hoogte bereik.
By die piek is daar 'n kaldera, 'n groot krater, wat 80 km breed is. Dit bestaan uit ses oorvleuelende kraters, met ’n maksimum diepte van 3 km.