1890年秋天,霍元甲打败了一个找上门来比武的武师,有了“武艺高强”的名声。之后,由于喜欢行侠仗义,霍元甲逐渐在天津一带有了名气。霍元甲在脚行(恶霸剥削搬运工的组织)做过管事,后来又到天津城北门外怀庆药店打工。在药店干活期间,他能挑动千斤药材,力推两个大青石碌碡,人们送给他一个绰号:“霍大力士”。在怀庆药店打工时,霍元甲结识了药店掌柜农劲荪。农劲荪曾留学日本,知识渊博,他常给霍元甲讲一些中外故事,使之大开眼界,明白了不少道理。1901年,有个叫斯其凡洛夫的俄国大力士来到天津戏园表演,他声称:“打遍中国无敌手,让东亚病夫们见识见识,开开眼界。”霍元甲找上农劲荪,到戏园和斯氏比武。当斯其凡洛夫私下了解到霍元甲武功高强时,决定妥协。到约定比武那天,斯其凡洛夫临阵求饶,说:“我只是来天津表演的,我说的那些话不算数。”霍元甲让他登报认错,斯氏只好应允,随后很快离开了天津。1909年,英国大力士奥彼音(实为在一个英国马戏团工作,并不是大力士)在上海摆下擂台,讥讽中国人是“东亚病夫”,上海民众十分不满,但又无人敢应战。农劲荪从报上得知此消息,遂向上海知名人士、同盟会员、革命党人陈其美推荐了霍元甲。霍元甲一到上海,上海各大报纸用大号字体刊登消息。霍元甲挑战奥彼音,奥和霍约定比武中不得使用指戳、足勾等中国武术技法,并约期在张园公开比赛。但到了比赛时间,却不见他的踪影,原来奥彼音已逃之夭夭。1910年9月,日本柔道会对霍元甲吓跑俄、英大力士之事,很不服气,便挑选了十几名高手,找霍元甲较量。霍元甲先让他的徒弟刘振声上场,刘以静制动,连胜对方五人。日领队非常恼火,自恃技艺纯熟,点名与霍元甲较量。双方刚一交手,日领队便知对手厉害,他企图黑手伤人,但被霍识破。霍元甲虚晃一招,用肘急磕其臂,日领队骨断筋折,只好认输。张园擂台比武虽没打成,但在上海掀起了习武热潮,各大学校蜂拥而至,邀请霍元甲及其弟子去讲习武术。这一时期,有一人对霍元甲影响很大,促成了霍元甲从讲求传统武德,向武术救国转变。这个人,就是霍元甲青年时代的知己农劲荪。