钧出生在河南汝州（今临汝），他幼年丧父，家境十分贫寒，十岁的时候，母亲亦亡故，只好投靠在白沙村舅舅家。寄人篱下的生活使他过早地成熟，小于世故，少年老成。十几岁时，赵秉钧在舅舅的帮扶下，到商业较发达的赊店镇，入广兴店当“相公”（就是伙计）。1878年（光绪四年），加入左宗棠领导的楚军，开赴新疆。1883年（光绪9年），在伊犁出任勘划中俄边界办事员。因“边防出力”，获“保以巡检遇缺即选”。1889年（光绪15年），赵秉钧改捐典史，分发直隶省，次年到省。1891年，补直隶新乐县典史。1895年调署东明县典史。