金州城潜入時の大胆不敵な行動が『向野堅一従軍日記』に記載されている。「早朝野菜魚類を搬入する農民の群に混じって北門より潜入。城内は東西南北の四街共に兵馬充満。中央の関帝廟前に暫時休息、廟門に『倭冦奸細潜入甚多来往厳視捕拿重賞』の貼紙あり。南門内の一小飯店に入り豚肉と麺各一椀を注文し喉を鳴らして食す。数日来の空腹一時に満ち心自然に泰然となる。出入する者は皆兵士、三々五々卓子を囲んで酒食の間雑談頻りなり。此の店内金州兵の状態を知る妙処なりと、麺を食い終り茶を喫して居ること二時間余。これより南門外兵営の状況を見、西門に往き東門上の砲数を一見し、市街に徘徊する兵を見るに、銘字・懐字淮軍、正勇、爵閣督堂親軍の砲隊馬隊等尤も多し。城壁上に旌旗を建て実に盛大なる情態なり。衣服を求め饅頭六七箇を肩袋に収め、北門を出て東門の道に出で、皮子口に向はんとす。時已に午後五時頃・・・」
日清戦争開戦前の1894年（明治27年）9月、広島大本営部の根津一より軍事偵察の特別任務のため、中国語の堪能な日清貿易研究所卒業生らに募集がかかった。9月19日、向野は他の卒業生（楠内友次郎・福原林平・藤崎秀・大熊鵬・猪田正吉）や藤島武彦（漢口楽善堂）らと広島に集結。向野、藤崎、大熊、猪田四名は第2軍（司令官大山巌）の通訳官となった。同年10月15日第2軍は広島の宇品を出航、10月24日遼東半島花園口に上陸した。向野ら4名と別途同軍に属した山崎羔三郎・鐘崎三郎（共に貿易研究所員）の6名は、軍に先行して敵情偵察をするため、それぞれが直ちに偵察活動を開始した。ところが、清国軍が発行した"赤符"（身分証明書）を持たなかったため、全員が清国兵に次々に捕えられた。向野は10月25日農民らに中国語訛りから怪しまれ、捉えられた。しかし夜間捕縛され護送中に、奇計によって脱走、人家を避け畑を抜けて逃走し、峻険な岩山に辿り着き、身を隠した。一方、藤崎、山崎、鐘崎は捕縛後拷問を受け斬首、大熊、猪田も消息不明となった。（楠内、福原、藤島らも別の地で捕縛され斬首された）　向野は山中を彷徨、野宿、乞食をしながらも唯一人生き延びて偵察行動を続けた。そして金州城の偵察に成功、日本軍の金州城攻略（同年11月6日）に貢献した。戦後、根津一とともに明治天皇に拝謁し、勲章や天皇の寝具を賜った。向野には多額な年金が支給されたという。
1890年（明治22年）12月、福岡で偶然、荒尾精の演説を聴く機会を得た。荒尾は清国の上海に日清貿易研究所を設立する予定で、その生徒募集のため全国各地を遊説に廻っていた。福岡にも来て、天神の勝立寺で演説会を行っていた。荒尾の話に向野は感銘を受け「母国の基本は商業の発達にある」と考えた。日清貿易が大不振であるのを嘆いて、清国に渡って商人になろうと決意、日清貿易研究所への入学を志した。9月、向野は難関の試験に合格し、上海に創設された日清貿易研究所（後の東亜同文書院大学）に海を渡って入学した。しかし、研究所での就学は辛酸を極めた。学校運営は財政難に陥る一方、学校周辺でマラリアが流行し、学生たちが次々に倒れ、多くの学生が退学していった。しかし、向野は劣悪な環境にも負けず、清語や英語、地誌、商品研究の勉学に励み、1893年（明治26年）6月に全科課程を1位で卒業した。同年7月より、日清商品陳列所の活動に従事し、実地商業の研究をしていた。1894年（明治27年）4月からは清国の長江沿岸に開港された港や都市の視察に赴いた。
ハウプトマンが単独で使用したと結論付けられた梯子は、1人では使用できないタイプだとする説がある。犯人が足をかけた時壊れたとされている梯子について当時検察側は、ハウプトマンが自分の家の屋根裏部屋の床から材料を切り取り自作したものと主張した。ハウプトマン側は梯子の木材と屋根裏部屋の床の木材が一致しない事、大工だったハウプトマンが作成したにしては梯子の作りが稚拙である事を主張した。しかし検察側として出廷した合衆国林産物研究所の科学者であるアーサー・ケーラーは梯子の木材と屋根裏に残っていた板が同一であると証言している。特に梯子と板にあった釘穴が一致したのが大きく、冤罪というにはあまりに無理があるという見方が一般的である。ちなみに、身代金の受け渡し現場には2人いて、庭からもその足跡が発見されている。裁判において、裁判長はこの証拠品として申し立てられ続けた梯子を2度却下しており、3度目に認めている。リンドバーグは「ジュニアのしつけのために何時間か彼を部屋に1人きりにする」という習慣があった。更に、ハウプトマンが侵入のために梯子をかけた場所は、リンドバーグの書斎のすぐ横であり、彼が気づかないのは不自然であるという主張、息子ジュニアの遺体を通常の土葬ではなくアメリカでは珍しい火葬することを希望し、その遺灰をすぐさま太平洋に撒いたことなどがこの説を補強している。ハウプトマンが処刑された後、犯人から度々送られてきた『謎のマーク』が記された手紙が書かれたと思われる机の一部が家具屋から発見された。それには『ハウプトマンは事件とは無関係である』という内容の告白状が書かれていたという。また、『謎のマーク』は、机に空いている穴の形と一致している（ただし、このマークについては、ハウプトマンのイニシャル「BRH」のアルファベットを組み合わせたものだというのが現在のところは有力である）。マークの詳細については、2つの青い輪を組み合わせてはんこのように押され、組み合わせた真ん中に赤い円が描かれ、横一列に四角い穴があいたもの。この輪と穴が家具屋の机の一部分と一致した。なお、自白すれば新聞社から9万ドルが支払われるという話もあり、証言者の中にも買収された老人がいて、不利な状況が作られていた。犯人逮捕後にも、身代金が使用されているのも確認されている。