כתבים אחרים שלו מהתקופה מכילים אזכור של משוואות הפסאודוספירה (משטח אותו מכנה גאוס "הנגדי של הספירה") – הדוגמה הראשונה למשטח עם עקמומיות שלילית קבועה. במכתב אחר הוא אף הביע דעתו על ההשלכות של הנושא וטען שייתכן שהטבע הגאומטרי של המרחב הפיזי הוא לא-אוקלידי, ושניתן להכריע בשאלה זאת באמצעם אמפיריים (הוא הצהיר שהגאומטריה הלא אוקלידית היא עקבית אולם הפרמטר היסודי שמאפיין אותה אינו ניתן לקביעה אפריורית).
בשלהי תקופה זאת, גאוס הביע באחד ממכתביו את רצונו להעלות על הכתב כמה מרעיונותיו בדבר הגאומטריה החלופית, משום "שלא רצה שרעיונותיו אלו ייעלמו עמו". בכתב לא מפורסם קצר משנת 1831 שכותרתו "התאוריה של קווים מקבילים", המהווה את ניסיונו הראשון לתעד שיטתית את עבודתו, הוא כמעט הגיע להגדרה מוצקה של מושג ההורוצייקל("מעגל גבולי"), אחד ממושגי המפתח בבניית הגאומטריה ההיפרבולית; ככל הנראה האבחנה המוקדמת ביותר של גאוס אשר מתקרבת להמשגה של המעגל הגבולי מופיעה במכתבו משנת 1804 לוולפגנג בולאי (אביו של יאנוש בולאי), שם גאוס מתייחס להיתכנות של מצולע שווה-צלעות ושווה זוויות אשר מתבדר בכיוון מסוים - במילים אחרות, גאוס מציין שבגאומטריה החלופית ייתכן מצולע "משוכלל" שלעולם לא נסגר על עצמו (מצולע כזה נקרא כיום מצולע הורוציקלי).
גם החיבור הקצרצר "התאוריה של הקו הישר והמישור" מתוארך לתקופה זאת, ובו תקף גאוס את מושג המישור כלא מבוסס מספיק, וטען כי הוא אינו מושג יסודי אלא מושג נגזר.
1832 ואילך.
התקופה השלישית מתוארכת להתוודעות שלו למכתבו של יאנוש בולאי מ-1832; מכתבו של בולאי הפתיע אותו מאוד ועורר בו את הצורך לתבוע זכות ראשונים. בתגובה למכתב זה של בולאי, גאוס שלח בפעם הראשונה הוכחות ולא רק תוצאות, ובאופן ספציפי שלח הוכחה סינתטית מקורית לטענה שהגרעון הזוויתי של משולש בגאומטריה היפרבולית פרופורציונלי לשטח שלו, המתבססת על פירוק משולש אסימפטוטי (דהיינו משולש שסכום זוויותיו אפס מעלות) למשולשים קטנים יותר. במכתב שלו גאוס טבע גם את המונחים "הורוצייקל" (באנגלית horocycle), "הורוספירה" (באנגלית horosphere), ו"עקום שווה מרחק" (המהווה הכללה של ישר מקביל לישר נתון). לרעיונות אלו יהיה משקל חשוב בעתיד התחום – בפיתוח מודלים שונים של הגאומטריה ההיפרבולית.
אולם תוצאות אלו היו תוצאות מבודדות בלבד, ועבודתו של גאוס בשנים 1790–1832 חסרה את הנפח והשיטתיות שבעבודתם של לובצ'בסקי ובולאי. הפיתוח השיטתי הראשון של תוצאותיו מופיע בכמה כתבים לא מפורסמים שלו שרובם מתוארכים לאחרי 1840, זמן קצר לאחר הפרסום של לובצ'בסקי; באחד מהם מקיש גאוס את הקשרים המטריים בין צלעותיהם של משולשים סופיים (לא אינפיניטסימליים) בגאומטריה היפרבולית בצורה אקסיומטית. ייתכן שגאוס ידע על תוצאות אלו זמן רב קודם לכן, והחליט לרשמן באופן שיטתי רק לאחר הפרסומים של בולאי ולובצ'בסקי, אך נושא זה נתון לספקולציות בקרב היסטוריונים. אין ספק שהחל משנת 1840, הוא נמנה עם המתמטיקאים הספורים בעולם שהבינו לעומק ופיתחו את הגאומטריות החדשות, אולם המחלוקת כאן היא באשר לנושא זכות הקדימות על הגילוי.
במאמר העדכני (מ-2012) "?What did Gauss read in the Appendix", מציעים המחברים תזה היסטורית מסקרנת לפיה אחת הסיבות שגאוס התמהמה בפיתוח שיטתי של ממצאיו היא שהוא אימץ את התוכנית האנליטית של למברט לבניית הגאומטריה החלופית; הוא היה נחוש למצוא משטח רגולרי עם עקמומיות שלילית קבועה (הפסאודוספירה אינה משטח רגולרי), באנלוגיה מלאה לכך שהספירה הדו-ממדית formula_61 היא המקום "הטבעי" לחקר הגאומטריה הכדורית. תוכנית זו הגיעה בסופו של דבר לסיום עקר, שכן הילברט הוכיח ב-1901 שלא קיים שיכון מלא של המישור ההיפרבולי במרחב תלת-ממדי.
השיא של עבודתו של גאוס בגאומטריה לא-אוקלידית עסק בחישוב התכולה (נפח) של הארבעון במרחב היפרבולי תלת-ממדי; עוד במכתבו מ-1832 ליאנוש בולאי גאוס המליץ לו לעסוק בבעיה של חישוב נפח הארבעון בגאומטריה החדשה שפיתח, וציין כי בשונה מהמקרה של שטח משולשים במישור, לא ניתן לקבל ביטוי מתמטי פשוט לנפח הארבעון. בכתביו של גאוס נמצאו מספר תוצאות בנוגע לבעיה הזאת; קטע קצר (באורך חצי עמוד) בכתביו תחת הכותרת "cubirung der tetraeder" ("נפח הארבעון") מראה כי עוד ב-1832 גאוס ידע את התשובה לשאלה זאת. בקטע זה גאוס העלה על הכתב מספר נוסחאות שקושרות בין השינויים בזוויות הדיהדרליות וזוויות הפאות של ארבעון אורתוסכמטי (שכל פאותיו הן משולשים ישרי זווית היפרבוליים) לדיפרנציאל הנפח שלו (ייתכן והכיר את נוסחת שלפלי על נפח פאונים). עבודה זאת, שדומה לה ביצע בולאי בשנות ה-1830 ולובצ'בסקי בשנות ה-1840, פתחה פתח לתחום מחקר פורה מאוד מאז ועד היום; נפח גופים במרחבים לא-אוקלידיים מממד גבוה מ-2. בפרט, הבעיה של נפח הארבעון הכללי מוליכה למתמטיקה סבוכה ביותר, ונפתרה לראשונה רק לאחרונה.
גאומטריה דיפרנציאלית.
הסקר של הנובר עורר בגאוס עניין בגאומטריה דיפרנציאלית, תחום במתמטיקה הדן במשטחים ועקומות. בין השאר, גאוס יצר את המושג של עקמומיות גאוס של משטחים, שהיא המושג המרכזי שהכניס לתחום. ב-1827, גאוס ניסח משפט מתמטי חשוב בתחום זה – "המשפט הנהדר", אשר הראה שעקמומיות גאוס היא שמורה פנימית של משטחים, והמשפט ביסס את החשיבות היסודית שיש לעקמומיות גאוס בגאומטריה דיפרנציאלית. הוא פרסם משפט זה ואת מכלול התאוריה שלו על משטחים עקומים בחיבורו מאותה שנה "חקירות כלליות אודות משטחים עקומים", שהוא יצירתו המרכזית בתחום זה.
תרומתו של חיבור זה לגאומטריה דיפרנציאלית הייתה מהפכנית משום שאפשרה בראשונה לחקור משטחים עקומים מנקודות מבט פנימית, כלומר מנקודת המבט של ישות דו-ממדית המקובעת לפני המשטח. למעט אולי אוילר ומונז', גאוס היה הראשון לחקור משטחים מנקודת מבט פנימית ולא באמצעות הצגתם האנליטית בלבד. הוא מציג כמה רעיונות מהפכניים שיהפכו למרכזיים בתאוריה של הגאומטריה הפנימית של משטחים - הוא פותח ברעיון של קואורדינטות עקומות ובהצגת התבנית היסודית הראשונה והשנייה. רעיונות אלו אפשרו לו להביע את אלמנט המרחק "ds" במשטח מנקודת מבט פנימית, במה שלמעשה מרחיב את מושג המטריקה לגאומטריות נוספות (לא בהכרח אוקלידיות). בהמשך החיבור גאוס פורס סדרה של הגדרות שקולות לעקמומיות משטח, תחילה בעזרת מיפוי גאוס, ולאחר מכן באמצעות הכפלת העקמומיות הראשיות של המשטח בנקודה, ומוכיח את שקילות ההגדרות בחיבור עצמו. המתודולוגיה של החיבור - תחילה הבעת המידע המטרי באופן ממצה ולאחר מכן היקשים מרחיקי לכת על עקמומיות וגאומטריית המשטח - הייתה כאבן יסוד בפיתוח הגאומטריה הרימנית שביסוד תורת היחסות הכללית בה המושגים של מרחק ועקמומיות מתגלמים במטריקה ובטנזור המטרי, בהתאמה.
אף על פי ש"המשפט הנהדר" הראה שניתן למדוד את העקמומיות ישירות מפנים המשטח, הוא לא הצביע על דרך קונקרטית לחשבה. למטרה זו בדיוק נועד משפט חשוב מאוד נוסף מהחיבור - אותו כינה גאוס "המשפט האלגנטי" - אשר קשר את עקמומיות המשטח לסכום הזוויות של הצורות המתקיימות עליו ולהבדל בין תוצאת הסכום לבין זו הנקבעת בגאומטריה אוקלידית. המשפט קובע בצורה ישירה למדי שהמגרעת הזוויתית של משולש שווה לאינטגרל על עקמומיות המשטח בתחום המשולש. בחלקו האחרון של החיבור מציג גאוס כמה ממצאים אחרים שגילה והוכיח, ביניהם משפטי השוואה בין תכונות מטריות וזוויתיות של משולשים במישור לאלו של משולשים על משטח עקום; גאוס חקר כיצד מתפלגת המגרעת הזוויתית של משולש גיאודזי בין קודקודיו בהשוואה למשולש ייחוס מישורי בעל אותן אורכי צלעות. באמצעות פיתוחים סבוכים לטורים של פונקציות המוגדרות בקואורדינטות גאודזיות פולריות על המשטח, מצא גאוס הכללה של משפט לז'נדר על משולשים כדוריים למשולשים גיאודזיים על משטח שרירותי. חישוביו אלו אפשרו לו להראות שזוויותיו של משולש גיאודזי "קטן מספיק" סוטות מאלו של משולש מישורי בעל אותן צלעות באופן שתלוי רק בערכי עקמומיות המשטח בפינות המשולש.
הכללה זו של משפט לז'נדר היא במובן מסוים תוצאה "מפתיעה" נוספת של גאוס בגאומטריה דיפרנציאלית, שכן היא מראה שאין זה משנה כיצד משתנה עקמומיות גאוס בפנים המשולש (היא עשויה למשל לקבל ערכים קטנים מאוד בתוכו אך גדולים מאוד בקודקודי המשולש), פילוג המגרעת הזוויתית תלוי רק בערכי עקמומיות המשטח בקודקודיו. על אף שהיבט זה של עבודתו של גאוס בתחום צמח ככל הנראה מתוך עבודתו המעשית כגאודזיסט, חישוביו אלו ראויים להימנות עם תרומותיו המעמיקות יותר בגאומטריה דיפרנציאלית, שכן יש להם משמעות תאורטית רבה מעבר ליישומים גאודזיים מעשיים. היסטוריונים אחדים הראו לאחרונה באופן משכנע שרעיונות ותחשיבים דומים מונחים בלב הצגת מושג העקמומיות של יריעות רימניות מממד כללי, ונטען גם כי רימן הציג מונח זה לאחר שביצע חישובים מפורטים שמטרתם להכליל את הרעיונות של גאוס על "עיוות גאודזי" לממדים גבוהים יותר (המונח "עיוות גיאודזי" מתייחס לסטיות המדידה המתקבלות כשמשווים משולשים גיאודזיים כלליים למשולשים מישוריים).