生于宇和岛藩宇和岛城下的一个藩士家庭，是家中的次子。童年时期，曾被家中送到酿酒厂工作。少年时代，他曾在的道场中修习剑术。后来成为大坂财界重要人物的这期间也在这个道场修习，以此为契机，两人结下了友情。此外，他早年曾在高知、长崎等地游历，在此期间与坂本龙马、五代友厚等人结识，成为倒幕运动的支持者。
脱藩、出仕.1867年（庆应三年），儿岛惟谦自宇和岛藩脱藩。「儿岛惟谦」这个化名也是此时起的。此后，这个化名成为了他一直使用的名字。戊辰战争爆发后，儿岛曾参加倒幕一方的新政府军。