6年带着他的哥哥麦可从爱尔兰移民至美国。麦格劳的父亲在第一任妻子去世后，就开始四处找工作，之后移民到美国几年后遇上了南北战争，战争过后在1871年于纽约州特拉克斯顿与年轻的艾伦·科默福德结婚。1873年4月7日，生下了约翰·麦格劳。1902年，与纽约巨人队签约为球员兼总教练。至此担任巨人队长达30多年的总教练，在其带领之下，赢得了10次国家联盟冠军和3次世界大赛冠军。1904年，拒绝与美国联盟的冠军波士顿美国人队进行世界大赛，因为麦格罗认为美国联盟仅比小联盟好一点而已。因此本年度的世界大赛也就停办。