Connor Murphy folgte in seiner Kindheit den Karrierestationen seines Vaters Gord Murphy, der ebenfalls Verteidiger war. Geboren wurde er 1993 in Boston, wo Gord gerade für die Bruins aktiv war, und lernte das Schlittschuhlaufen im Kleinkindalter in Miami, während sein Vater für die Florida Panthers auflief. Konstanz stellte sich schließlich ein, als sein Vater von 2002 bis 2010 als Assistenztrainer bei den Columbus Blue Jackets tätig war und die Familie in Dublin, Ohio sesshaft wurde. Dort spielte er im Jugendbereich für die "Ohio Blue Jackets", ehe er mit Beginn der Saison 2009/10 in das USA Hockey National Team Development Program (US NTDP) aufgenommen wurde, die zentrale Talenteschmiede des Verbandes USA Hockey in Ann Arbor, Michigan. Mit den dortigen Jugendmannschaften bestritt Murphy nur wenige Spiele in der United States Hockey League, der höchsten Juniorenliga der Vereinigten Staaten, und kam dafür in mehreren außer Wettbewerb stehenden Partien zum Einsatz. Zudem nahm er mit der U18-Nationalmannschaft, die sich naturgemäß hauptsächlich aus Mitgliedern des US NTPD zusammensetzt, an der U18-Junioren WM 2011 teil und gewann dort mit der Mannschaft die Goldmedaille.