יאנג נולד בניו אורלינס שבלואיזיאנה. סיים לימודי תואר ראשון באוניברסיטת דילארד ותואר בלימודי דתות באוניברסיטת הווארד ב-1951. ב-1955 סיים לימודיו בסמינר לכמרים בהרטפורד שבקונטיקט. שימש כומר בעיירה מריון שבאטלנטה, בתומאסוויל ובביצ'טאון שבג'ורג'יה. ב-1964 מונה ליו"ר בפועל של "התאחדות ההנהגה הדרומית-נוצרית" (SCLC), תנועת זכויות האדם שהקים מרטין לותר קינג ושימש סגנו של לותר קינג. הוא היה פעיל בארגון מאבקי התנועה לזכויות האזרח של ארצות הברית בין השאר במערכת בירמינגהם, והמצעדים מסלמה למונטגומרי ונעצר מספר פעמים. הוא שהה לצדו של לותר קינג בעת הירצחו ב-1968.