Hugues se pravděpodobně narodil v Château Payns, asi 10 kilometrů od Troyes v kraji Champagne. Původně byl vazalem hraběte Huga ze Champagne, k jehož družině se připojil, když se hrabě rozhodl vydat na první křížovou výpravu. Je též možné, že Hugues během křížové výpravy sloužil ve vojsku lotrinského vévody Godefroie z Bouillonu. Po dobytí Jeruzaléma křižáky se Hugues vrátil zpět do Francie, nicméně hrabě Hugo ze Champagne se do Jeruzaléma roku 1108 a Hugues de Payens jej doprovázel. Zatímco hrabě Hugo se opět vrátil domů, Hugues již v Jeruzalémě zůstal, kde začal organizovat původní devítičlenné bratrstvo mnichů-rytířů, kteří na výzvu papeže Urbana II. na cestě k Božímu hrobu ochraňovali křesťanské poutníky z Evropy.