中世に成立した『神道集』の赤木文庫版には、「児持山之事」として子持山の名称の由来に関する逸話が掲載されている。これによれば、もともとこの山は「武部（たけべ）山」と呼ばれていたのだが、伊勢国安濃津（三重県津市）の地頭阿野保明の子女に子持御前という女性がいて、この娘が神通力を得て武部山に移り住んだことから、この山を「児持山」と呼ぶようになったという。一般的には、山容を子どもを抱く姿にみたてて「子持山」と呼ぶようになったとされている。このほか女性器にみたてて「子持山」と称するとする説もある。
子持山の火山活動は20万年前頃に収束した。これは、数万年前から1万年前頃までに激しい噴火を繰り返した榛名山・赤城山・浅間山などの周囲の大火山とくらべ、かなり古い部類にはいる。子持山の南北の山麓にできた山体崩壊にともなう扇状地の上には、榛名山や浅間山の噴火にともなうテフラ（火山噴出物）が10メートルもの厚さで堆積している。また、東方にある赤城山の噴火では、噴出物によって利根川が堰き止められ、川筋が大きく西へ移動した。これにより、子持山の東麓は利根川によって大きく浸食され綾戸渓谷となった。山体やカルデラそのものも、20万年の間に風雨や河川による浸食・開析により大きく姿を変えた。火山活動にともなって噴出された火山灰を主成分とする凝灰岩や凝灰角礫岩は、比較的やわらかいために削られ流されてしまい、火山の内部構造ともいうべき火道の岩脈が「骨組み」のように露出する形となった。こうした開析が最も進んでいるのが、南斜面を大きく削って谷をつくっている唐沢周辺で、この扇状地の根元部分に子持神社が鎮座する。
60万年前頃から20万年前頃にかけて子持山は噴火を繰り返した。子持山は火山灰、火山礫、溶岩を交互に噴出し、裾野の広い、富士山型の典型的な成層火山へと成長した。この時期の火山噴出物からは凝灰岩、凝灰角礫岩や安山岩が生まれたが、カンラン石を含むのが特徴的である。この火山活動の末期には、山頂付近にカルデラが出現し、火口湖ができた。さらにこのカルデラ周辺に複数の溶岩ドームが形成された。これらの溶岩ドームはまもなく爆発によって粉砕され、山体上部が崩壊、カルデラ湖の湖水も流失した。このときの岩屑は南北に流れて扇状地を形成した。現在の山頂（「笠上」）や、山頂の南にある頂部（「柳木ヶ峰」）はこうした溶岩ドームの残骸である。
初期の活動からおおよそ30万年間の休止期を経て、90万年前頃から子持山火山の活動が活発化した。この噴火では、大黒岩（獅子岩）を中央火口として30万年ほど火山活動が続いた。現在みられる火山岩頸や放射状岩脈はこの時期に形成されたものである。このときの噴出物は輝石を含む玄武岩質の安山岩の溶岩流が主体で、これに凝灰角礫岩が含まれるのが特徴的である。代表的な露頭地では厚さ20メートルの溶岩、凝灰角礫岩層、厚さ20メートルの溶岩が層を成しているのが観察できる。
子持山の火山活動が始まったのは第四紀の更新世に入ってからで、最初期の活動は今から160万年ほど前（カラブリアン）と推定される。このときには、基盤となる岩盤を突き破って噴火活動があり、輝石安山岩を主成分とする溶岩が噴出した。この火山の姿は後の火山活動と浸食作用によってほとんど原型をとどめないが、子持山の東麓の利根川沿いの綾戸渓谷（綾戸バイパス参照）付近では、当時の火山活動で生じた火成岩を見ることができる。
1640年代初期、イロコイ族がフランスと交易しているワイアンドット族を混乱させようとしてセントローレンス川沿いの集落を襲った。1649年、イロコイ族はワイアンドット族領地の中心部に破壊的な攻撃を掛け、幾つかの重要な集落と数百名の住民を殺した。殺された中にはイエズス会宣教師のジャン・ブレビュフ、シャルル・ガルニエおよびガブリエル・ラルマンが含まれていた。彼らは白人の間ではローマ・カトリック教会の殉教者と見なされた。この攻撃に続いて、残っていたワイアンドット族は五大湖地方のアニシナベ連邦（オジブワ族）の援助を求めて散り散りになった。同地ではオダワ族系のオッタワ族が残って、後にフランスとの毛皮交易を引き継ぐことになった。1650年代早く、イロコイ族はフランス人入植者への攻撃を始めた。イロコイ連邦の中にはオナイダ族やオノンダーガ族のようにフランス人と平和的な関係を持っている部族もいたが、モホーク族の影響下にあることも事実だった。モホーク族は連邦の中でも最強の部族であり、フランス人が存在することに敵対意識を持っていた。カナクイーズ酋長による和平交渉が失敗すると、好戦的な部隊が北へシャンプレーン湖からリシュリュー川を通ってヌーベルフランスに侵攻し、モントリオールを攻撃し封鎖した。彼らは森の中を素早く音もなく移動し、突然襲いかかって、斧や皮剥ぎナイフで敵を襲うという常套戦法で、モホーク族は孤立した農園や入植地を襲った。捕虜をイロコイ族の村に連れ帰る場合もあった。捕虜が女子供の場合は部族の生活の中に組み入れられた。「新しい血」を部族の同胞に迎える、というこの風習はイロコイ族の伝統文化である。このような襲撃は常にあるというものではなかったが、インディアンの土地に入植地を開いたヌーベルフランスの住人を恐れさせ、また彼らは無力だった。このような攻撃に反撃したのが、フランス系カナダ人にとっての何人かの英雄であり、たとえばドラール・デ・オルモーはセントローレンス川とオタワ川の合流点にあるロング・ソールトでのイロコイ族の攻撃に抵抗し、1660年5月に死んだ。オルモーはその犠牲によって入植地モントリオールを救うことに成功した。白人の間の他の英雄には、1692年に14歳で、イロコイ族の攻撃に対する家族の防衛を率いたマドレーヌ・ド・ヴェルシェールがいた。