ניוטון הראה שאור בצבע אחד (ראו ספקטרום אור נראה) אינו משנה את תכונותיו, במספר ניסויים, בהם תחילה השיג אור בעל צבע מסוים על ידי העברת קרן אור לבן (כלומר תערובת של אור מצבעים שונים) דרך מנסרה והאור נפרד (נפץ) לקשת הצבעים, ואז האיר ניוטון עצמים שונים בעלי תכונות שונות של אטימות, שקיפות ושקיפות למחצה באור מצבע מסוים. הוא הבחין שגם כאשר האור הוחזר, נשבר או אוחד, הוא שמר על צבעו. מסקנתו הייתה שהצבעים הם תוצאה של האינטראקציה בין העצם לבין האור, ולא תוצר של העצמים עצמם. בכתביו, ניוטון טוען כי "הצבעים התמידיים" (Permanent colours) של גופים טבעיים נגזרים מהחלוקות הבין-אטומיות הקטנות ביותר של החומר בעל הצבע, ועמד על הדמיון בין הצבעים של שכבות דקות לאלו של עצמים טבעיים (ראו גם צבעוניות מבנית), במה שנודע כתאוריית הצבעים של ניוטון. לפי תאוריה זו, תכונות שונות של החומר, כגון מידת השקיפות או הצבע שלו כאשר הוא מואר באור לבן, הן תוצאה של מבנה ה"אגרגטים" או החלקיקים מהם עשוי החומר. ניוטון שיער כי לפי המרחק בין חלקיקי החומר המרכיבים גוף ניתן לעמוד על תכונותיו האופטיות.
מרעיונות אלו הסיק ניוטון שכל טלסקופ המבוסס על שבירה של אור יסבול מן הנפיצה של האור הלבן לצבעים השונים המרכיבים אותו - (אברציה כרומטית). הוא הגה את רעיון הטלסקופ מחזיר האור גם כדי לפתור בעיה זו. בנייתו לא הייתה כרוכה רק בהגיית הרעיון, אלא שלפני ניוטון עמדו הבעיות הטכניות דוגמת יצירתו של החומר המתאים למראות ופיתוח טכניקת עיצוב צורתן, כדי לעצב את צורת המראות המיטבית - הפרבולית - באופן מדויק. ניוטון התיך סגסוגת "Speculum Metal" - תערובת מחזירה (רפלקטיבית) ביותר, המורכבת מנחושת ומעט בדיל. לקראת סוף 1668, היה מסוגל להרכיב את הטלסקופ מחזיר האור הראשון (הנקרא גם טלסקופ ניוטוני, על שמו). הטלסקופ היה באורך 8 אינץ' (20.5 סנטימטר) ונתן תמונה גדולה יותר וחדה יותר. ב-1671 החברה המלכותית ביקשה מניוטון לצפות בהדגמה של הטלסקופ החדש שלו. הבעת העניין בהמצאתו עודדה אותו לפרסם חיבור קצר על רעיונותיו שלו בשם "On Colour", אשר הורחב מאוחר יותר לספר המרכזי שלו בתחום אופטיקה.
במאמרו המעמיק (31,724 מילה) "Hypothesis of Light" משנת 1675, ניוטון טען שאור מורכב מחלקיקים: חלקיקים יסודיים המסודרים יחדיו בצפיפות עצומה, אשר נעים בקווים ישרים, בדיוק כשם שהאור נע בקווים ישרים ויוצרים את האשליה כאילו נראית קרן אור ישרה ורציפה במרחב. בעשותו זאת ניוטון יצר את התאוריה החלקיקית של האור. על פי תאוריה זו קל לתאר את אפקט ההחזרה, וגם עד מידה מסוימת את תופעות השבירה. הסברו המכני של ניוטון לתופעת השבירה ולחוק סנל התבסס על היפותזה של כוח משיכה מסתורי בין חלקיקי התווך לחלקיקי האור (במעיין אפקט של "מתח פנים"), כך שאלו מוסטים במעבר בין שני תווכים. על פי הסבר זה מהירות האור בחומר גבוהה יותר מאשר בריק, בניגוד להסברו הגלי של הויגנס. הסברו של ניוטון לתופעת הנפיצה היה שצבעים שונים נוצרים על ידי חלקיקים בגדלים שונים, ולכן החלקיקים מוסטים (נשברים, בְּעָגָה אופטית) בזויות שונות ונפרדים.
באותו המאמר תיאר ניוטון את התופעה שהתגלתה על ידי רוברט הוק וקרויה היום על שמו של ניוטון – טבעות ניוטון. טבעות ניוטון הן טבעות בצבעים שונים המתקבלות בין היתר כאשר מצמידים שתי מנסרות אחת לשנייה. כדי להסביר את התופעה, ניוטון נעזר בהשערת קיומו של האתר, חומר שתואר כבלתי נראה ונטול מסה הממלא את המרחב כתווך בו נע האור. הוא הסביר את התופעה על ידי כך שפגיעת חלקיקי האור במשטח זכוכית אחד יוצרות תנודות של האתר, או גלים באתר. הוא הסתמך על התאוריות של הוק וכריסטיאן הויגנס והוסיף את רעיון המחזוריות של גלי האתר וקבע אותו כתכונה בסיסית של גלי האתר. ניוטון הסביר את התופעה בכך שהתנודות המחזוריות של האתר מחזקות ומחלישות לסירוגין את מעבר האור במשטח השני. ניוטון ניסה למדוד את אורך הגל של תנודות אלו (לפי המדידות שלו, חישב את הערך formula_3 מטר כאורך הגל של הצבע הצהוב, ערך נכון מבחינת סדר הגודל שלו), והציע שלכל צבע של האור יש תנודות באורך אופייני. אולם, עבור ניוטון התנודות המחזוריות של האתר היו רק תופעה משנית, ומהות האור עצמו הייתה חלקיקית.
המחקרים של ניוטון בנושא טבע האור הביאו למחלוקות רבות עם הוק וכן עם כריסטיאן הויגנס הן על שאלות של קדימות והן על מהות האור. הוק והויגנס החזיקו בדעה שהאור הוא 'גל'. הוויכוח על מהותו של האור המשיך ללוות את הפיזיקה שנים רבות (ראה בערך שניוּת גל-חלקיק).
ספרו של ניוטון, "אופטיקה" פורסם ב-1704 והציג תאוריה חדשה של אור וצבע (כולל ההצגה הראשונה של רעיון "גלגל הצבעים"), ועסק בפרט בתאוריה החלקיקית של האור. בספר זה הציג ניוטון את רעיון האתר, את רעיונותיו בדבר טבע האור, תהליכי הייצור והעברה של החום, תופעות חשמליות ותהליכי הפעולה הכימית. הספר דן בהרחבה הן בצבעים של שכבות דקות (בפרט עסק תופעת טבעות ניוטון), והן בצבעים של שכבות עבות, ומכיל את ההסבר החלקיקי - גלי שלו לתופעות אלו. לאחד הפרקים בספרו העוסק בפעולה כימית הייתה חשיבות עצומה בפיתוח התאוריה של קשרים כימיים במהלך 200 השנים הבאות. בספר זה ניוטון העלה את ההשערה שחלקיקי החומר עברו שינוי צורה כימי כלשהו והפכו לחלקיקי אור הנפלטים ממקורות אור שונים; כלשונו: "האם אין זה ייתכן כי גופים חומריים ואור ניתנים להמרה אחד אל השני ... והאם אין הגופים מקבלים את היכולת לבצע את מרבית הפעילות שלהם מחלקיקי האור שנכנסים אל המבנה הפנימי שלהם?". במסגרת מחקרו הבסיסי בתופעות חשמליות, בנה ניוטון צורה פרימיטיבית של גנרטור אלקטרוסטטי, המבוסס על חיכוך, באמצעות כפפת זכוכית ("אופטיקה", שאילתה 8).
לפי מאמר בשם "Newton, prisms, and the 'opticks' of tunable lasers", ניוטון, בספרו "אופטיקה", היה הראשון להראות דיאגרמה המדגימה כיצד להשתמש במנסרה כאמצעי להרחבת אלומה. בספר הוא אכן מתאר גם דרך דיאגרמות, את השימוש במערכים מרובי מנסרות. 278 שנה אחרי יציאת ספרו של ניוטון לאור, הנושא של שימוש במערכים מרובי מנסרות כדי להרחיב אלומות הפך מרכזי לעיצוב לייזרים ברי כוונון צרי פס (narrow-linewidth tunable lasers). כמו כן, השימוש במנסרות כדי להרחיב אלומות הביא להתפתחות התאוריה של "נפיצה במערכים מרובי מנסרות".
במרוצת השנים פרסם ניוטון בעיתון ה-Philosophical Transactions מאמרים רבים על היבטים שונים של מדע האופטיקה. מאמרים אלו תרמו רבות לביאור היבטים שונים של האור, ואף שרבות מהשקפותיו נמצאו בסופו של דבר שגויות, הן התוו הדרך עבור החוקרים אחריו ואף הניבו מספר תגליות בעלות ערך מיידי. במאמריו ניוטון כתב על שבירה כפולה וראייה בינוקולרית. בין היתר מצויה אצל ניוטון ההבחנה הראשונית של תכונת הקיטוב של האור, שניוטון מייחס את מקורה לקיומה של "אוריינטציה רוחבית", בלשונו, לקרן האור. התאוריה שלו על קיטוב האור מכילה אלמנטים מהותיים רבים של התאוריה הנוכחית. כמו כן, בכתביו של ניוטון על אופטיקה שפורסמו לאחר מותו מופיעים התייחסויות והסברים מדעיים לתופעות מגוונות, הסברים אשר היו רבי-ערך בעבור ממשיכי דרכו במאה ה-18. כדוגמה אחת מני רבות, ניוטון היה הראשון להסביר נכונה את התופעה של הילות, שהוא ייחס את מקורן לשבירה של אור השמש בגבישי קרח הקסגונליים זעירים באטמוספירה, והסביר בצורה כמותית את זווית ה-22° האופיינית להן באמצעות הרחבה של הסברו של דקארט לקשת בענן למקרה זה.
לאחר ניוטון, המשיכו חוקרים רבים לעסוק בטיבו של האור. תומאס יאנג ואוגוסטן ז'אן פרנל שילבו בין התורה החלקיקית של ניוטון לתאוריה הגלית של הויגנס כדי להראות שהצבע של האור הוא ההתגלמות הנראית של אורך הגל של האור. המדע החל אט אט להבין את ההבדל בין תפיסת צבעים (הסובייקטיבית יותר באופייה) לאופטיקה אובייקטיבית הניתנת לכימות מתמטי. המשורר והמדען הגרמני, גתה, יצא נחרצות נגד ניוטון בכל הקשור לתאוריה שלו על ההיבטים התפיסתיים של האור. הוא ניסה לשלב בין תפיסתו הפואטית את הטבע לתפיסה המדעית של ניוטון, וחיבר את ספרו תאוריית הצבעים, שהכיל תאוריה שונה מזו של ניוטון, בייחוד בהיבטים התפיסתיים. הניסויים שהפריכו את התאוריה האופטית של ניוטון הם ניסוי שני הסדקים של יאנג, וניסוי מייקלסון-מורלי מסוף המאה ה-19.
ניטון המציא גם את דיסק ניוטון, בעזרתו הוכיח סופית את העקרון כי הצבע הלבן מורכב מצבעי הספקטרום הנראה.
מכניקה וכבידה.
ב-1679 חזר ניוטון לעבודתו על תורת המכניקה, חוקי התנועה ובפרט השפעת הכבידה על תנועת כוכבי הלכת. ניוטון הצליח להסביר מדוע כוכבי הלכת נעים במסלול אליפטי סביב השמש ולא במסלול מעגלי. הוא פרסם חלק מהתוצאות אליהן הגיע בחיבורו "De Motu Corporum" שפורסם ב-1684 והיה היסוד לספרו "עקרונות מתמטיים של פילוסופיית הטבע".