הרלן היה אחד מארבעת השופטים שכתבו חוות דעת מיעוט בפסק הדין "פולוק נגד חברת ההלוואות והנאמנות של החקלאים" מ-1895, שפסל את גבייתו של מס הכנסה פדרלי על פי חוק וילסון-גורמן משנת 1894. הרלן תיאר את חוות דעת הרוב כ"אסון לאומה" בשל "היותה מזיקה לסמכויות הצודקות של הממשלה הלאומית ומשבשת אותן". הוא היה היחידי מבין חבר השופטים שכתב חוות דעת מיעוט בפסק הדין "ארצות הברית נגד חברת א. ס. נייט" מ-1895, שבו קיצץ בית המשפט העליון באופן משמעותי את סמכות הממשל הפדרלי לנקוט בצעדים בנוגע להגבלים העסקיים על פי חוק ההגבלים העסקיים של שרמן . בחוות דעת זו הוא כתב ש"הממשלה המשותפת של כל האנשים היא היחידה שיכולה לעסוק באופן ראוי בעניין באופן ישיר וללא גרימת נזק לסחר בארץ בכללותו". בשנות ה-90 הוא גם כתב כמה חוות דעת מיעוט בתיקים שבהם החלטות בית המשפט קיצצו בסמכויות הרגולטוריות של "מועצת הסחר הבין-מדינתי" .
פסק דין פלסי נגד פרגוסון.
ב-1896 כתב השופט הנרי בראון את חוות דעת הרוב בפסק דין פלסי נגד פרגוסון, שהניח את היסודות לדוקטרינה של נפרד אך שווה. בעוד שתיקי זכויות האזרח פסלו את החוק הפדרלי, שאסר על ההפרדה הגזעית במרחב הפרטי, החלטת בית המשפט העליון בפסק הדין פלסי נגד פרגוסון התירה לממשלות המדינות ליישם את ההפרדה הגזעית. כשהוא דחה את הטיעון שההפרדה הגזעית הפרה את התיקון ה-13, כתב בראון ש"חוק שמרמז על הבחנה משפטית בלבד בין הלבנים לבין השחורים לא מהווה הרס של השוויון החוקי בין שני הגזעים, ולא יוצר מחדש מצב של עבדות בלתי רצונית". בתגובה לטענת העותר בתיק בנוגע לתיקון ה-14, כתב בראון שהתיקון ה-14 נועד "לאכוף שוויון מוחלט של שני הגזעים בפני החוק", אך הוסיף שהתיקון "לא יכול היה להיות מכווון לבטל הבחנה המבוססת על צבע עור או לאכוף שוויון חברתי, במובחן משוויון פוליטי, או למזג את שני הגזעים בתנאים שלא מקובלים על שניהם".
הרלן, שהיה היחידי שכתב חוות דעת מיעוט בפסק דין זה, הסתייג לחלוטין מחוות דעת הרוב, וכתב ש"פסק הדין שניתן היום, יוכח בבוא הזמן כהרסני כמו פסק הדין שניתן בבית משפט זה בפסק דין דרד סקוט נגד סנדפורד". הוא קיבל את הטיעון של המערער שהתיקון ה-13 אסר על הפרדה גזעית במרחב הציבורי, כפי שהוא האמין שההפרדה הגזעית כפתה "סמלים של עבדות ושיעבוד" על האפרו-אמריקאים. הוא גם קיבל את הטיעון של העותר שההפרדה הגזעית הפרה את התיקון ה-14 על בסיס העובדה שמרחב זה כלל "דרכים ציבוריות". הוא המשיך וכתב ש"החוקה שלנו היא עיוורת צבעים, והיא לא מכירה ולא סובלת מעמדות בקרב האזרחים". הרלן דחה את הרעיון שהחוק שבנדון היה מנוטרל משאלות גזעיות, וכתב ש"כל אחד יודע שכוונת החוק שבנדון היא להדיר שחורים מכלי תחבורה ציבוריים שנתפסו על ידי לבנים או יועדו להם". הוא הוסיף שהחוק היה "מתוכנן בערמומיות" כדי להפוך על פניהן את תוצאות מלחמת האזרחים.
תיקים מאוחרים (1911-1897).
הרלן לא חיבב את הרעיון של שוויון חברתי גזעי מלא. בעוד שהוא דחף לשוויון כפי שעשה בתיקים שונים לטובת "חוקה עיוורת צבעים" בחוות דעת המיעוט שלו בפסק הדין פלסי נגד פרגוסון, הוא גם ציין ש"ישנו גזע כה שונה מאיתנו שאנו לא מרשים לבניו להפוך לאזרחי ארצות הברית... אני רומז על הגזע הסיני". בפסק הדין "ארצות הברית נגד וונג קים ארק" מ-1898 הצטרף הרלן לחוות דעת המיעוט של נשיא בית המשפט העליון פולר, שבה תוארו הסכנות הכרוכות בהימצאותם של מספר רב של מהגרים סינים בארצות הברית. בית המשפט פסק שאנשים ממוצא סיני שנולדו בארצות הברית הם אזרחים על פי לידה. פולר והרלן טענו שהעיקרון דין הדם (כלומר, העיקרון שהילד יורש את האזרחות של אביו ללא קשר למקום לידתו) היה נפוץ יותר בהיסטוריה המשפטית של ארצות הברית מאז עצמאותה. מנקודת המבט של המיעוט, היסמכות יתר על עיקרון דין הקרקע (אזרחות על פי מקום הלידה), כאמצעי להגדיר את האזרחות, תוביל מצב עניינים בלתי נסבל שבו "ילדי הזרים, שבמקרה נולדו תוך כדי שאמותיהן עברו דרך שטחי הארץ, בין אם הוריהם הם בני מלוכה או לא, או בין אם הם מונגולים, מלאים או בני כל גזע אחר, זכאים לכהן כנשיא ארצות הברית, בעוד שילדיהם של אזרחינו, שנולדו מחוץ לארצות הברית, לא זכאים לכך.
הרלן גם כתב את חוות דעת הרוב בפסק הדין "חברת הרכבת של שיקגו, ברלינגטון וקווינסי נגד עיריית שיקגו" מ-1897, שקבע שהזכות להליך הוגן מצריכה פיצוי הולם שיינתן על כל רכוש פרטי שנתפס על ידי המדינה. פסק דין זה יישם את הסעיף הרלוונטי בתיקון ה-14, ושהיה הפעם הראשונה שחלק ממגילת הזכויות נגע לממשלות המדינות. בית המשפט לא יישם אף סעיף של מגילת הזכויות עד לפסק הדין "גיטלו נגד ניו יורק" מ-1925. הרלן כתב את חוות דעת הרוב בפסק הדין "חברת ניירות הערך הצפונית נגד ארצות הברית" , שהיה הפעם הראשונה שבית המשפט אישר את השימוש בחוק ההגבלים העסקיים של שרמן כדי לפרק תאגיד גדול. הרלן כתב גם את חוות דעת הרוב בפסק הדין "אדאיר נגד ארצות הברית" מ-1908, בו נקבע שלקונגרס לא הייתה הסמכות לאסור את "חוזי הכלב הצהוב" , הסכם העסקה בית עובד למעביד על בסיס הסכמתו של העובד לא להיות חבר באיגוד עובדים.
בשנותיו האחרונות על כס השיפוט, המשיך הרלן לכתוב חוות דעת מיעוט בפסקי דין מרכזיים, כמו פסק הדין "גילס נגד האריס" מ-1903, תיק שקרא תיגר על השימוש ב"סעיף הסבא", שהגביל את רשימות המצביעים ולמעשה שלל מהשחורים את זכות הבחירה. הוא גם כתב חוות דעת מיעוט בפסק דין לוכנר נגד מדינת ניו יורק מ-1905, אך הוא הסכים עם דעת הרוב "שקיימת חירות להתקשר בחוזה שאינה יכולה להיות מופרת אפילו באמצעות סנקציה ישירה על פי חוק". בחוות דעת המיעוט שלו בפסק הדין "הודג'ס נגד ארצות הברית" מ-1906, חזר והדגיש הרלן את אמונתו שהתיקון ה-13 הסמיך את הקונגרס להגן על האפרו-אמריקאים מפני אפליה או אלימות. הוא היה השופט היחידי שכתב חוות דעת מיעוט בפסק הדין "אקס פארטה יאנג" מ-1908, בו הוא טען שהתיקון ה-11 מנע תביעות נגד פקידי ממשל של המדינות הפועלים בתוקף תפקידם. בחוות דעת המיעוט החלקית שלו בפסק הדין "חברת סטנדרד אוייל מניו ג'רזי נגד ארצות הברית" , טען הרלן בתוקף שחוות דעת הרוב שאימצה את מבחן השכל הישר, ושבה נקבע שנסיבות מקלות מסוימות לא ניתן לפרק נאמנות גם אם היא מהווה מונופול. הן בפסק דין זה, והן בפסק הדין "ארצות הברית נגד חברת הטבק האמריקאית" מ-1911, מתח הרלן ביקורת נוקבת על חוות דעת הרוב על כך שאימצה את מבחן השכל הישר, שכן מבחן זה לא בא לידי ביטוי בחקיקה המקורית, והוא האמין שבית המשפט חמס את זכות החקיקה של הקונגרס.
חיים אישיים.
בדצמבר 1856 נשא הרלן לאישה את מלווינה פרנץ' שנקלין, בתו של איש עסקים מאינדיאנה. על פי ידידיהם ועל פי זיכרונותיה של שנקלין, הנישואים היו מאושרים והם נמשכו עד למותו של הרלן. לזוג נולדו שלושה בנים ושלוש בנות. בנם הבכור, ריצ'רד, היה לכומר פרסביטריאני ושירת כנשיא לייק פורסט קולג'. בנם השני, ג'יימס ס. הרלן, עסק בעריכת דין בשיקגו והיה התובע הכללי של פוארטו ריקו ויושב ראש מועצת הסחר הבין-מדינתי. בנם הצעיר, ג'ון מיינרד הרלן, עסק גם הוא בעריכת דין בשיקגו והיה חבר מועצת העיר. בנו של ג'ון מיינרד, ג'ון מרשל הרלן השני, היה שופט בבית המשפט העליון של ארצות הברית כמו סבו בשנים 1955–1971.
הרלן היה נוצרי פונדמנטליסט ולאמונתו הדתית היה מקום חשוב בחייו, כשופט בבית המשפט העליון, ובכלל. בתקופת כהונתו על כס השיפוט הוא היה בעל תפקיד בכיר בכנסייה הפרסביטריאנית של שדרת ניו יורק בוושינגטון הבירה. בכנסייה זו הוא לימד אנשים בגיל הביניים בבית ספר של יום ראשון מ-1896 ועד למותו. הרלן היה גם חבר בבונים החופשיים.
מותו.
ג'ון מרשל הרלן נפטר בוושינגטון הבירה ב-14 באוקטובר 1911 לאחר 33 שנות על כס השיפוט. הוא היה השלישי באורך כהונתו עד אז והשישי באורך כהונתו עד היום. הוא היה אחרון השופטים שכיהנו תחת נשיאותו של מוריסון וייט שנותר על כס השיפוט. הוא נטמן בבית הקברות רוק קריק שבוושינגטון, מקום בו קבורים שופטים נוספים שכיהנו בבית המשפט העליון. הלראן, שסבל מקשיים פיננסיים במשך כל תקופת כהונתו בבית המשפט, הותיר אחריו מעט נכסים שיכלו לפרנס את אלמנתו ואת שתי בנותיו הרווקות. בחודשים שלאחר מותו, הקימו חברים מובילים בלשכת עורכי הדין של בית המשפט העליון קרן לרווחת משפחתו.
מורשתו והנצחתו.
בעשורים שלאחר מותו, נשכח הרלן כמעט לחלוטין, אך המוניטין שלו החל להשתפר באמצע המאה ה-20, וחוקרים רבים מחשיבים אותו כיום כאחד מהשופטים הגדולים בבית המשפט העליון בתקופתו. הוא נודע בעיקר בשל המוניטין שלו כ"מתנגד הגדול" (The Great Dissenter"), והוא ייזכר במיוחד בשל חוות דעת המיעוט שלו בפסק דין פלסי נגד פרגוסון. ההיסטוריון ד. גרייר סטפנסון כתב ש"יותר מכל אחד מהשופטים העליונים שלצידם הוא כיהן, הרלן הבין את תיקוני השיקום ככאלו שמיסדו זכות מוגנת ברמה הלאומית נגד אפליה גזעית, אף על פי שהיה זה אמצעי של בית המשפט שלעיתים קרובות ביטא את הייעוד שלהם בחוות דעת המיעוט שלו". חוקר המשפט ברנרד שוורץ כתב ש"חוות דעת המיעוט המרכזיות של הרלן אושרו באופן כללי בבית המשפט של ההיסטוריה. מאה שנים לאחר מכן, התנגדותו לפירוש הצר של זכויות האזרח, שאומץ על ידי דעת הרוב, זכתה לאישור באופן כללי". השקפתו של הרלן, שהתיקון ה-14 קבע שמגילת הזכויות תיושם במדינות, גם היא אומצה באופן כללי על ידי בית המשפט העליון.