692年にウマイヤ朝のアブドゥルマリク・ブン・マルワーンがカアバ周辺の整備を命じた。アブドゥルマリクの改修以前の状態は、カアバを中心にした外壁が築かれ、その内側の比較的小規模な屋外空間全体がモスクであった。また、カアバの天井には装飾が付け加えられていた。その後8世紀末までに、ワリード1世の命による改修で、古い木製の柱が大理石になり、礼拝室が左右に広がった。また、ミナレットが付設された。
630年にムスリム共同体軍がメッカの部族連合軍を破る。メッカ帰還を果たした預言者ムハンマドは、女婿のアリーとともにカアバ聖殿の中やその周りに置かれていた数々の偶像を破壊した。この行為は、ムハンマドに下された啓示によれば、預言者イブラーヒームが故郷で行った行為をそっくりなぞるものであった。このようにしてカアバが多神教徒によって濫用される時代が終わり、一神教徒による支配が再開した、とされる。
『クルアーン』2:127 には、イブラーヒームとその息子、イスマーイールが家の基礎を建てたとあり、ほとんどのクルアーン注釈者がこれをカアバのこととみなしている。アッラーはイブラーヒームに、ザムザムの泉のすぐそばの場所をはっきりと示し、そこにイブラーヒームとイスマーイールはカアバ聖殿を建てはじめた。紀元前2130年ごろのこととされる。二人が聖殿を立て終わると、天使が黒石を持ってきた。伝説によると、これは天国から落ちてきた石であり、アブー・クバイス（Abu Qubays）の丘付近にあったとされる。また、落下直後は乳よりも白かったが、アーダムの子孫（つまり、人間）の罪のせいで黒くなったとされる。イブラーヒームがカアバの東角に黒石を据えると、彼はアッラーからの預言を受け取った。預言の内容は、年老いたイブラーヒームに今すぐここを出立し、全人類にカアバへの巡礼を説いて回れという命令だった。
マスジド・ハラームは、エリトリアにあったマスジド・サハーバ、マディーナに今もあるマスジド・クバーと並んで、イスラーム教の歴史の中で最も古い礼拝所である。
ザムザムの井戸は、カアバの東、約20メートルのところに位置する。上記神話体系においては、幼いイスマーイールが渇きを訴えてずっと泣いていたところ、出現したものとされる。長年、巡礼に飲み水を提供しても絶えることがなく、巡礼はこの泉の水を故郷への土産とするのが通例である。
サファー（アラビア語: ٱلـصَّـفَـا‎, Aṣ-Ṣafā）とマルワ（ٱلْـمَـرْوَة, Al-Marwah）は、カアバ聖殿の近くにある二つの丘の名前であるが、21世紀現在はマスジド・ハラームの宗教建築複合の内部に取り込まれている。サファーの丘はカアバから800メートルほど離れた場所に位置し、マルワの丘は同じくカアバから約100メートルの位置にある。二つの丘の間の距離は約450メートルである。ムスリムの間で信じられている神話的物語体系においては、イブラーヒームの妻、ハガルが、この二つの丘の間を、幼いイスマーイールのために水を探して走っていたところ、神（アッラー）がハガルのために泉を湧き出させた、という。この泉こそがザムザムの泉（井戸）とされている。巡礼中のムスリムは、この伝説に倣ってサファーとマルワの間を7回、行ったり来たりする。この行きつ戻りつの歩行儀式をサイー（アラビア語: سَـعِى‎, saʿy）という。
海辺の村に生まれ育ち、桜井村立桜井小学校（現・今治市立桜井小学校）、愛媛県立今治中学校（現・愛媛県立今治西高等学校）を卒業後、1921年に20歳で東京高等師範学校文科一部別組（地理・歴史専攻）に入学、3年次より田中啓爾の薫陶を受け、1925年に同校を卒業する。卒業後は1年間志願兵として歩兵第57連隊に入営、除隊後は3年間東京府立第五中学校（現・東京都立小石川中等教育学校）で教鞭を執る。1929年、創立されたばかりの東京文理科大学地学科地理学専攻へ入学、再び田中啓爾から指導を受ける。その傍ら東京外国語学校専修科仏語部でも2年間学んでいる。1931年、「九十九里浜海岸平野に於ける集落の移動」を『地理学評論』で発表、以後九十九里浜から外房、内房へと研究フィールドを移動し、千葉県全体の地域区分を行った。1932年に卒業論文「九十九里浜に於ける漁村及水産業の地理学的研究」を提出、そのまま東京文理科大学副手に就任、東京地学協会発行の『地学雑誌』編集事務も務めた。翌1933年に同学助手となる。研究面では伊豆半島や紀伊半島、三陸海岸南部の漁業・漁村調査を行った。また1939年には『地学雑誌』編集経験を活かして師の田中啓爾との共著で『地理論文の書き方』を執筆した。1938年、満州事変が勃発すると地理学にもその影響が及び始め、青野も朝鮮半島・中国大陸・南氷洋・南洋群島・北アメリカ太平洋岸の水産業を研究、オーストラリアの水産業と米作を研究すべしと説いた。その一方で日本の漁村研究も継続し、特にカツオ釣り漁村に焦点を当てた。1940年には東京文理科大学と旧制浦和高等学校の講師に就任、1941年には前2校に加え立正大学でも講師を務めた。1943年には拓殖大学教授となる。