ב-1967 מונה לתובע הכללי בקבינט של לינדון ג'ונסון וכיהן בתפקיד עד סיום כהונת ג'ונסון בינואר 1969. ספקולציות קושרות בין מינויו של קלארק הבן לבין רצונו של ג'ונסון לפרישתו של קלארק האב מכהונה בבית המשפט העליון על מנת שיוכל למנות לתפקיד את ת'ורגוד מרשל, כאפרו-אמריקאי הראשון בתפקיד. בתקופת כהונתו פעל ליישום חוק זכות ההצבעה (1965), הגנה פדרלית על פעילויות התנועה האפרו-אמריקאית לזכויות האזרח וגיבוש חוק זכויות האזרח (1968) בעקבות רצח מרטין לותר קינג. הוא נקט במורטוריום בנושא הוצאות להורג פדרליות ובניית בתי כלא פדרליים וטען כי הדרך הטובה ביותר לחיסול הפשיעה היא מלחמה בגזענות ובעוני. הוא סירב להעמיד לדין מנהיגי מחאות נגד מלחמת וייטנאם ופעילים אפרו-אמריקאים שנטלו חלק במהומות הגזעיות ב-1967–1968. במהלך הבחירות לנשיאות ארצות הברית 1968 היה קלארק במרכזו של קמפיין ניקסון שהבטיח לפטרו עם עלייתו לשלטון.