国分淡路守の存在は後述の2史料によって確実だが、江戸時代に作られた国分氏の系図に淡路守を名乗った人物は見当たらない。国分氏の出自については、系図が示す平姓千葉氏系は誤りで、藤原姓長沼氏の出ではないかとする説がある。系図にない淡路守の存在と、長沼氏が何代か淡路守になっていた事実は、長沼氏説の傍証である。しかし、国分淡路守が国分氏の傍系であるために系図に現れないという可能性も捨てきれない。
常陸国筑波郡上平柳村（後の茨城県つくばみらい市）の小貝川のほとりに、農民の子として生まれる。戦国時代に後北条氏に仕えた宇多源氏佐々木氏分流間宮氏の篠箇城主の間宮康俊の子孫で間宮清右衛門系統の末裔である。当時幕府は利根川東遷事業を行っており、林蔵の生まれた近くで堰（関東三大堰のひとつ、岡堰）の普請を行っていた。この作業に加わった林蔵は幕臣・村上島之丞に地理や算術の才能を見込まれ、後に幕府の下役人となった。1799年（寛政11年）、国後場所（当時の範囲は国後島、択捉島、得撫島）に派遣され同地に来ていた伊能忠敬に測量技術を学び1803年（享和3年）、西蝦夷地（日本海岸およびオホーツク海岸）を測量し、ウルップ島までの地図を作製した。1807年（文化4年旧暦4月25日）、択捉場所（1800年（寛政12年）クナシリ場所から分立。択捉島）の紗那会所元に勤務していた際、幕府から通商の要求を断られたニコライ・レザノフが復讐のため部下のニコライ・フヴォストフたちに行わせた同島襲撃(文化露寇)に巻き込まれた。この際、林蔵は徹底抗戦を主張するが受け入れられず、撤退。後に他の幕吏らが撤退の責任を追及され処罰される中、林蔵は抗戦を主張したことが認められて不問に付された。1808年（文化5年）、幕府の命により松田伝十郎に従って樺太を探索することとなり、樺太南端のシラヌシ（本斗郡好仁村白主）でアイヌの従者を雇い、松田は西岸から、林蔵は東岸から樺太の探索を進めた。林蔵は多来加湾岸のシャクコタン（散江郡散江村）まで北上するが、それ以上進む事が困難であった為、再び南下し、最狭部であるマーヌイ（栄浜郡白縫村真縫）から樺太を横断して、西岸クシュンナイ（久春内郡久春内村）に出て海岸を北上、北樺太西岸ノテトで松田と合流した。林蔵はアイヌ語もかなり解したが、樺太北部にはアイヌ語が通じないオロッコと呼ばれる民族がいることを発見、その生活の様子を記録に残した。松田と共に北樺太西岸ラッカに至り、樺太が島であるという推測を得てそこに「大日本国国境」の標柱を建て、1809年7月（文化6年6月）、宗谷に帰着した。調査の報告書を提出した林蔵は翌月、更に奥地への探索を願い出てこれが許されると、単身樺太へ向かった。林蔵は、現地でアイヌの従者を雇い、再度樺太西岸を北上し、第一回の探索で到達した地よりも更に北に進んで黒竜江河口の対岸に位置する北樺太西岸ナニオーまで到達し、樺太が半島ではなく島である事を確認した。更に林蔵は、樺太北部に居住するギリヤーク人(ニヴフ)から聞いた、清国の役所が存在するという黒竜江（アムール川）下流の町「デレン」の存在、およびロシア帝国の動向を確認すべく、鎖国を破ることは死罪に相当することを知りながらも、ギリヤーク人らと共に海峡を渡ってアムール川下流を調査した。その記録は『東韃地方紀行』として残されており、ロシア帝国が極東地域を必ずしも十分に支配しておらず、清国人が多くいる状況が報告されている。なお、現在ロシア領となっているアムール川流域の外満州はネルチンスク条約により当時は清領であった。間宮林蔵は樺太が島であることを確認した人物として認められ、シーボルトは後に作成した日本地図で樺太・大陸間の海峡最狭部を「マミアノセト」と命名した。海峡自体は「タタール海峡」と記載している。樺太北部の探索を終えた林蔵は1809年11月（文化6年旧暦9月末）、宗谷に戻り、11月に松前奉行所へ出頭し帰着報告をしている。松前において探索の結果報告の作成に取りかかり、師の村上島之丞の養子である村上貞助に口述を筆記させ、『東韃地方紀行』、『北夷分界余話』としてまとめ、1811年（文化8年）1月、江戸に赴いて地図と共に幕府に提出した。江戸において林蔵は伊能忠敬の邸に出入りして測量技能の向上に努めた。1811年（文化8年）4月、松前奉行支配調役下役格に昇進。同年12月、ゴローニン事件の調査のため松前に派遣される。1822年（文政5年）、普請役となる。1828年（文政11年）には勘定奉行・村垣定行の部下になり、幕府の隠密として全国各地を調査し、石州浜田藩の密貿易の実態を掴み、大坂町奉行矢部定謙に報告し検挙に至らせる（竹島事件）などの活動に従事する。探索で培った、蝦夷・樺太方面に対する豊富な知識や海防に対する見識が高く評価され、老中大久保忠真に重用され、川路聖謨や江川英龍らとも親交を持った。また、当時蝦夷地の支配を画策していた水戸藩主徳川斉昭の招きを受け、水戸藩邸等に出入りして斉昭に献策し、藤田東湖らと交流を持った。晩年は身体が衰弱し、隠密行動も不可能になったという。天保15年2月26日（1844年4月13日）、江戸深川蛤町か本所外手町において没した。梅毒を死因とする説もある。実子は無かったが、浅草の札差青柳家から鉄二郎（孝順）が養子に入って家督を相続した。墓所は、東京都江東区の本立院及び、茨城県つくばみらい市上柳の専称寺にある。1904年（明治37年）4月22日、贈正五位。