הניקס לא חוו הצלחות בין השנים 1960–1966. בכל השנים האלו הם סיימו במקום האחרון באזור המזרחי. כמה מההפסדים הגדולים בהיסטוריה של הניקס קרו בתקופה הזו. אחד המשחקים המפורסמים התקיים ב-2 במרץ 1962, בו הניקס שיחקו מול פילדלפיה ווריורס של וילט צ'מברלין. במשחק זה צ'מברלין קלע 100 נקודות - שיא NBA בכל הזמנים. הווריורס ניצחו במשחק 147–169.
ב-1964 הניקס בחרו בדראפט את ויליס ריד והוא זכה באותה שנה בתואר רוקי השנה ב-NBA. בדראפט 1965 הניקס זכו בבחירה נוספת בעקבות טרייד, ובחרו את השחקן ביל בראדלי ששיחק בניקס במשך עשר שנים ונבחר להיכל התהילה.
1968–1975: שנות האליפות.
ב-1968 הניקס הגיעו לפלייאוף לראשונה מאז 1959. מאמן הקבוצה היה רד הולצמן וכוכביה היו השחקנים הצעירים ביל בראדלי ו-וולט "קלייד" פרייז'ר (שכמו בראדלי הגיע להיכל התהילה). בעונה הבאה הניקס רכשו את דייב דבושר (עוד שחקן מהיכל התהילה) מדטרויט פיסטונס. בעונת 1968/1969 הם הגיעו למאזן 27–55. בפלייאוף של אותה עונה הניקס עברו את הסיבוב הראשון בפעם הראשונה מאז 1953, כשהדיחו את הבולטימור בולטס ב. לאחר מכן הניקס הפסידו לבוסטון סלטיקס בגמר המזרח.
במהלך עונת 1969/1970 הניקס השיגו רצף של 18 ניצחונות. באותה עונה הניקס השיגו מאזן 22–60, המאזן הטוב ביותר מבין כל קבוצות ה-NBA בעונה זו והמאזן הטוב ביותר של הניקס בהיסטוריה של המועדון. אחרי שהניקס ניצחו את בולטימור בולטס 4-3 בחצי גמר המזרח ואת מילווקי באקס בגמר המזרח 1–4 הם פגשו את לוס אנג'לס לייקרס בגמר.
בארבעת המשחקים הראשונים הסדרה הייתה בשוויון 2-2. במהלך הרבע השני של המשחק החמישי אחד מכוכבי הקבוצה, ויליס ריד נפצע בשריר ברגלו הימנית ולא חזר לשחק באותו משחק. למרות היעדרותו הניקס ניצחו ב-16 נקודות הפרש. ללא ריד הפצוע הניקס הפסידו במשחק השישי והלכו למשחק מכריע ואחרון בסדרה מול הלייקרס.
בתחילת המשחק ריד צלע לכיוון הפרקט, כשהוא מראה את נחישותו לשחק למרות כאביו. ריד קלע את שני הסלים הראשונים של ניו יורק במשחק, ולא קלע יותר בהמשכו. למרות הופעתו החלשה על המגרש, העלה ריד את המורל של קבוצתו בעזרת ההירואיות שלו. הניקס ניצחו בסופו של המשחק 99–113, וזכו באליפות NBA ראשונה בהיסטוריה של המועדון אחרי שגברו על הלייקרס בסדרה מותחת שהסתיימה ב-3–4.
כל מספרי החולצות של החמישייה הפותחת מעונת 1969/1970 ניתלו על תקרת האולם של הניקס, המדיסון סקוור גארדן, ומאז לא השתמשו במספרים אלו. המספרים הם של וולט פרייז'ר (10#), ויליס ריד (19#), דייב דבושר (22#), ביל בראדלי (24#) ודיק בארנט (12#).
ההצלחה של הניקס המשיכה בשנים לאחר מכן. לאחר שהפסידו בגמר המזרח ב-1971 לבולטימור בולטס, הניקס רכשו את ג'רי לוקאס וארל מונרו, שני שחקנים שיגיעו בעתיד להיכל התהילה. בעזרתם הם חזרו לגמר ה-NBA, אך הפסידו ללייקרס בחמישה משחקים.
בשנה לאחר מכן הגיעו שוב שתי הקבוצות לגמר, אך הפעם ניצחו הניקס בחמישה משחקים וזכו באליפות שנייה בתולדות המועדון בתוך ארבע שנים. שנה לאחר מכן, בעונת 1973/1974 הגיעה הניקס לגמר המזרח והפסידה לבוסטון סלטיקס בחמישה משחקים.
לאחר עונה זו ריד הודיע על פרישה.
1975–1985: השנים שלאחר האליפות.
אחד משחקני ההגנה והספסל הטובים ביותר בניקס במשך שנות ה-70 היה לא אחר מאשר פיל ג'קסון, המאמן המצליח ביותר בהיסטוריה של ה-NBA מבחינת אליפויות. הוא שיחק בניקס בין השנים 1967–1978 אחרי שנבחר בדראפט במקום ה-17. בעונת 1974/1975 הוא אף הוביל את הליגה בעבירות, כשעשה 330 כאלו. אחרי שפרש ג'קסון אימן בשיקגו בולס ובלוס אנג'לס לייקרס.
בעונת 1974/1975 הניקס השיגו מאזן שלילי של 40–42. זו הפעם הראשונה מזה 8 שנים שניקס השיגו מאזן שלילי. למרות המאזן הניקס הצליחו להגיע לפלייאוף, אך הפסידו בסיבוב הראשון ליוסטון רוקטס. אחרי עוד שתי עונות עם מאזנים שליליים המאמן רד הולצמן הוחלף על ידי השחקן עד לא מזמן בניקס, ויליס ריד. תחת ריד הניקס השיגו מאזן 39–43, ועלו לפלייאוף. בחצי גמר המזרח הם הודחו בסוויפ בידי הפילדלפיה 76'. בעונה הבאה הניקס התחילו במאזן 6–8, וריד הוחלף על ידי הולצמן שחזר לאמן בקבוצה. למרות המינוי של הולצמן הניקס השיגו מאזן 31–51, הגרוע ביותר שלהם מזה 13 שנים.
בעונת 1979/1980 הניקס שיפרו את מאזנם והשיגו 39–43. בעונת 1980/1981 השיפור נמשך כשהניקס השיגו מאזן 30–52. למרות ההצלחה בעונה זו הודחו הניקס ב-2 משחקים בידי השיקגו בולס כבר בסיבוב הראשון של הפלייאוף. הולצמן פרש אחרי עונה זו וסיים את הקריירה כאחד מהמאמנים בעלי הכי הרבה ניצחונות ב-NBA. בעונה שלאחר פרישתו הידרדר מאזנם של הניקס ל-33–49.
אחרי פרישתו של הולצמן החליף אותו המאמן יובי בראון. תחתי בראון הניקס השיגו מאזן 38–44 והם העפילו לפלייאוף. בחצי גמר המזרח הניקס הודחו בסוויפ על ידי הפילדלפיה 76'. בעונה הבאה הניקס רכשו את ברנרד קינג ושיפרו את מאזנם כשהשיגו 35–47 והמשיכו להופיע בפלייאוף. בסיבוב הראשון הם ניצחו את דטרויט פיסטונס בסדרה של 5 משחקים, כשבמשחק ה-5 הם ניצחו בהארכה. בחצי הגמר הם הפסידו לבוסטון סלטיקס בסדרה בת 7 משחקים.
בעונה הבאה מזלם של הניקס שוב התהפך כשהם "השיגו" מאזן 24–58, כשמתוך 12 המשחקים האחרונים של הקבוצה הם לא ניצחו באחד. ב-23 במרץ 1985, במשחק הראשון שמתוך הרצף הניקס איבדו את ברנרד קינג שנפצע בברכו. הפציעה גרמה לו להיות מחוץ למגרשים למשך השנתיים הבאות, שבהן הוא אמור להשתקם. חשבו שקינג סיים את הקריירה שלו, אך הוא הוכיח את טעותם כשחזר למגרשים בעונת 1986/1987.
1985–2000: עידן פטריק יואינג.
אחרי עונת 1984/1985 החלשה התמודדו הניקס על בחירת דראפט גבוהה בדראפט 1985. הניקס זכו בבחירה הראשונה בדראפט. הם בחרו בסנטר פטריק יואינג מאוניברסיטת ג'ורג'טאון, שבעתיד יהפוך לכוכב הקבוצה ויהיה בהיכל התהילה. בשנתו הראשונה של יואינג בליגה הוא הוביל את שחקני השנה הראשונה בנקודות (20 בממוצע) וריבאונדים (9 בממוצע). בסיומה של העונה הוא זכה בתואר רוקי השנה ב-NBA. הקבוצה, לעומת יואינג, לא הצליחה והשיגה מאזן לא טוב של 23–59, ובעונה הבאה 24–58.
בעונת 1987/1988 הניקס השתפרו כשמינו את ריק פיטינו לעמדת המאמן ובחרו את מארק ג'קסון במקום ה-18 בדראפט. יואינג המשיך להופיע ביכולת טובה, והניקס סיימו את העונה עם מאזן 38–44 ועלייה לפלייאוף. בסיבוב הראשון הם הפסידו לבוסטון סלטיקס.
בעונה הבאה הניקס הצליחו הרבה יותר, כשבתחילת העונה הם העבירו את ביל קארטרייט לשיקגו בולס בתמורה לפאוור פורוורד צ'ארלס אוקלי. הניקס השיגו מאזן 30–52, וזכו לראשונה מזה 20 שנה בערך באליפות הבית האטלנטי. בסיבוב הראשון הם הדיחו את פילדלפיה 76', ובחצי גמר המזרח הבולס ניצחו אותם.
לקראת עונת 1989/1990 מספר שינויים קרו בניקס. המאמן פיטינו עזב ובמקומו מונה סטו ג'קסון. הניקס השיגו מאזן 37–45 בסיום העונה ועלו לפלייאוף. בסיבוב הראשון הם ניצחו את הסלטיקס 2–3, אחרי שהפסידו בשני המשחקים הראשונים וניצחו את שלושת הבאים. בחצי הגמר הם הפסידו לדטרויט פיסטונס, שהשיגה את האליפות באותה עונה. בעונת 1990/1991 הוחלף ג'קסון ומונה במקומו לעמדת המאמן ג'ון מקלאוד. הניקס השיגו מאזן 39–43 והודחו בסיבוב הראשון של הפלייאוף בידי שיקגו בולס שהשיגו את האליפות.
לפני עונת 1991/1992 הניקס מינו את פט ריילי לעמדת המאמן הראשי. ריילי, שאימן את לוס אנג'לס לייקרס וזכה איתם באליפויות בשנות ה-80, הנחיל בשחקניו את שיטת המשחק הדוגלת בהגנה חזקה ופיזית במיוחד. הניקס שהביאו את ג'ון סטארקס שהפך במהרה לחביב הקהל שיפרו את המאזן שלהם, כשסיימו את העונה עם 31–51, מאזן מספיק טוב כדי להיות בראשות הבית האטלנטי בשוויון עם קבוצה נוספת. בסיבוב הראשון הניקס ניצחו את דטרויט פיסטונס, ובחצי גמר המזרח הם הודחו שוב בידי שיקגו בולס, הפעם ב-7 משחקים.
בעונת 1992/1993 הניקס המשיכו במגמת השיפור, כשסיימו את העונה עם מאזן טוב של 22–60. לפני תחילת העונה הניקס העבירו בטרייד את מארק ג'קסון ללוס אנג'לס קליפרס בתמורה לצ'ארלס סמית', דוק ריברס ובו קימבל. בנוסף הם רכשו את רולנדו בלאקמן מדאלאס מאבריקס. בפלייאוף של אותה עונה הניקס הגיעו לגמר המזרח, שם נפגשו שוב עם הבולס. הם ניצחו בשני המשחקים הראשונים, אך הפסידו בארבעת המשחקים הבאים והודחו.
אחרי ששחקן שיקגו בולס, מייקל ג'ורדן, פרש את פרישתו הראשונה הרבה פרשנים חשבו שזו הזדמנות מצוינת לניקס לעלות לגמר ה-NBA. הבולס הדיחו בעצמם את הניקס בשלוש השנים האחרונות, ובכל שלושתן הם זכו באליפות. הניקס קיבלו את דריק הרפר בטרייד באמצע העונה מדאלאס מאבריקס. הם סיימו את העונה במאזן 25–57, וזכו באליפות הבית האטלנטי. משחקם של הניקס באותה עונה התאפיין בעיקר בהגנה חזקה ובהאטת קצב המשחק.