בסתיו 1836 הורע מצבה הרפואי של מאריה פיודורבנה, שמגיל צעיר סבלה מבעיות בחזה ובדרכי הנשימה, והיא אובחנה כחולת שחפת. אמו של דוסטויבסקי איבדה במהירות את כוחה, ועל אף התייעצויות יומיומיות עם עמיתיו, לא הצליח אביו מיכאיל לעשות דבר כדי לשפר את מצבה. לפי הזכרונות של אנדריי, על ערש דווי, עם כל המשפחה סביבה, שבה מאריה פיודורבנה לפתע להכרתה, ביקשה לקבל לידה צלב, בירכה את בעלה וילדיה, ונפטרה ב-27 בפברואר 1837. אנדריי מוסיף כי האב מיכאיל היה "הרוס לחלוטין".
סנקט פטרבורג.
עוד בסתיו 1836 הגיש האב מיכאיל בקשה רשמית לממונה עליו בבית החולים כי בניו יתקבלו לאקדמיה של חיל ההנדסה בסנקט פטרבורג במימון ממשלתי. על אף שלפיודור ולאחיו מיכאיל לא היה שום רצון להפוך למהנדסים ורוב שאיפותיהם היו בכיוון ספרותי, נאלצו השניים, לאחר שהבקשה אושרה, למלא אחר מצוות אביהם. מיכאיל האב השאיר אותם בפנימייה צבאית בעיר במאי 1837 על מנת שיתכוננו לבחינות הכניסה לבית הספר, והוא עצמו, יחד עם הילדים הצעירים יותר, עבר לאחוזה הכפרית בדרובואה. פיודור עבר את המבחנים בהצלחה והחל ללמוד בבית הספר בינואר 1838. מיכאיל, לעומת זאת, לא התקבל לבית הספר בשל בריאותו הלקויה, והחל ללמוד באקדמיה הצבאית בעיר רוול (טאלין של ימינו), שהייתה פחות יוקרתית מהאקדמיה בסנקט פטרבורג. האחים שמרו על קשר רצוף באמצעות מכתבים.
בזמן שהותו בסנקט פטרבורג התיידד דוסטויבסקי עם איוון שידלובסקי, משורר ופקיד זוטר שהיה מבוגר ממנו בחמש שנים, על רקע העניין הספרותי המשותף וההערצה שחלקו למשורר פרידריך שילר. ממכתבים שכתב לאחיו מיכאיל באותה התקופה עולה כי הוא סלד מאוד מלימודי המתמטיקה, וכי את רוב זמנו הפנוי העביר בקריאה נמרצת של שייקספיר (בעיקר המלט), א.ת.א. הופמן, אונורה דה בלזק, בלז פסקל, גתה, ויקטור הוגו וז'ורז' סאנד. באחד המכתבים כתב דוסטויבסקי לאחיו: "הנפש שלי כבר אינה סובלת מאותם התקפים אלימים כבעבר. הכל בה שקט, כבלב אדם שמטפח תעלומה עמוקה ... אני בטוח בעצמי. האדם הוא תעלומה, ואת התעלומה הזאת יש לפתור".
ביוני 1839 נפטר אביו של פיודור. שעות ספורות לאחר מותו נפוצו בסביבה שמועות לפיהן נרצח מיכאיל דוסטויבסקי על ידי משרתיו, בזמן התפרצות זעם שלו שנבעה משכרות. לפי אותן שמועות, כפתו המשרתים את אב המשפחה והשקו אותו בוודקה עד שנחנק למוות. תיאור של מקרה דומה מופיע ביצירתו של דוסטויבסקי "רשימות מבית המוות". לפי סברה אחרת, סיפור הרצח הומצא על ידי אחד השכנים, שביקש לרכוש את אחוזת דוסטויבסקי במחיר נמוך, ומיכאיל מת למעשה משבץ.
התקפי האפילפסיה.
דוסטויבסקי סבל מהתקפי אפילפסיה, אך הדעות חלוקות בנוגע למועד התפרצות המחלה ותדירות ההתקפים לאחר מכן. במאמר בשם "דוסטויבסקי ורצח אב" שהתפרסם בשנת 1928 ייחס זיגמונד פרויד את התפרצות המחלה אצל דוסטויבסקי לתסביך אדיפוס: לטענתו, דוסטויבסקי חש רגשות אשמה עזים לאחר מות אביו, מכיוון שבסתר ליבו ייחל לרצח זה. רגשות האשמה התבטאו בצורת נוירוזה, שהביאה להתפרצות המחלה. לפי פרויד, קווי מחשבה דומים ניתן לזהות בדמותו של איוון קרמזוב מהרומן "האחים קרמזוב", וזהו אף המניע הנסתר לכתיבת הרומן "החטא ועונשו", המדגים את אותן רגשות אשמה אצל רסקולניקוב. עם זאת, הביוגרף ג'וזף פרנק שולל תאוריה זו: לטענתו, העדות היחידה להתפרצות המחלה בגיל צעיר היא זיכרון של דוסטויבסקי עצמו, לפיו בשנת 1831, כשהיה בן 10, עבר חוויה אותה תיאר כ"הזייה שמיעתית". פרנק טוען כי גם בזכרונות של האח הצעיר אנדריי לא מופיע אזכור של המחלה או התקפים מהם סבל פיודור. פרנק טוען כי ההתקפים הראשונים על רקע של מצוקה נפשית הופיעו בתקופה מאוחרת יותר, כשנתיים לפני שדוסטויבסקי נשלח לסיביר, כלומר בסביבת שנת 1846, וכי זכרונותיו של אנדריי תומכים בתארוך זה. מסיבה זו קשה להצביע על מות האב, שהתרחש שבע שנים קודם לכן, כסיבה להתפרצות המחלה.
תחילת הקריירה הספרותית.
בשנת 1842 קודם דוסטויבסקי לדרגת סגן משנה, ועזב את האקדמיה הצבאית עם קצבה קטנה. ביחד עם הכסף שהיה שולח אליו גיסו, בעלה של וארוורה, שהופקד על ניהול האחוזה המשפחתית לאחר מות האב, הגיע הסכום לכ-5,000 רובל בשנה. הוא שכר חדר ברחוב ולדימיר, והיה הולך להרצאות לקצינים בבקרים ולתיאטרון בשעות הערב. בהשראתו של שילר, ניסה דוסטויבסקי את כוחו בכתיבת מחזה רומנטי. הוא כתב שני מחזות על דמויות היסטוריות – מרי סטיוארט ובוריס גודונוב – אך שניהם לא נשמרו. ביקורו של בלזק, אחד הסופרים האהובים עליו, בסנקט פטרבורג בשנת 1843, גרם לו לזנוח את השאיפה לכתוב מחזה היסטורי ולהתמקד בשאיפה צנועה יותר: תרגום של הרומן "אז'ני גרנדה", אותו פרסם בלזק עשור קודם לכן. התרגום הושלם ופורסם, אך לא זיכה את דוסטויבסקי בתשומת לב מיוחדת.
רק לאחר שחרורו מהשירות הצבאי, בשנת 1844, פנה דוסטויבסקי ברצינות לכתיבת פרוזה משל עצמו, עם הנובלה "אנשים עלובים", שנכתב בסגנון של רומן מכתבים. הוא עבד במשך שעות, יום ולילה, ונהג בחשאיות ומסתוריות בנוגע לכתב היד. שותפו לדירה באותה תקופה, סופר מתחיל נוסף בשם גריגורוביץ', לא ידע כלל במה עוסק הסיפור. למרות זאת, כאשר שמע שהמשורר והמו"ל נקראסוב מחפש כתבי יד חדשים, הוא המליץ לדוסטויבסקי לפנות אליו. נקראסוב, שבאותה תקופה הוציא לאור וערך את כתב העת הספרותי "סוברמרניק" ("בן זמננו"), התרשם מאוד מהיכולות של דוסטויבסקי: הוא קרא את כל הסיפור בלילה אחד, ובבוקר ניגש בעצמו לברך את דוסטויבסקי על ההישג. לאחר מכן ניגש נקראסוב לסופר והמבקר ויסאריון בלינסקי עם כתב היד, והכריז: "מצאנו גוגול חדש!". על כך השיב לו בלינסקי: "איתך, גוגולים חדשים צומחים כמו פטריות". עם זאת, מייד לאחר שקרא את הסיפור הורה בלינסקי למשרתיו למצוא את דוסטויבסקי ולהביאו אליו. לפי דוסטויבסקי, שתיאר את האירוע 30 שנה מאוחר יותר, "בלינסקי פתח בנאום נמרץ, כשעיניו בוהקות: האם יש לך מושג, הוא אמר שוב ושוב בקול דק, מה שכתבת כאן?". דוסטויבסקי מוסיף כי לקבל שבחים מאישיות בסדר גודל של בלינסקי היה רגע של ניצחון ופריצת דרך עבורו. הנובלה "אנשים עלובים" התפרסמה בינואר 1846, בקובץ סיפורים שהוציא נקראסוב בשם "אוסף פטרבורגי".
הנובלה השנייה של דוסטויבסקי, "הכפיל", התפרסמה בסוף אותו החודש בכתב העת "רשימות המולדת". יצירה זו לא זכתה לאותה קבלת פנים אוהדת. דוסטויבסקי מספר בזיכרונותיו כי כאשר הקריא קטעים מתוכה לבלינסקי, הוא התמוגג ושפע שבחים בנוגע לכתיבה. עם זאת, בביקורת משותפת שכתב על שתי הנובלות, טען בלינסקי כי על אף שיש ב"הכפיל" כמה קטעים טובים מאוד, קיימת הסכמה בקרב החוג הפטרבורגי כי הסיפור עצמו "כתוב בצורה בלתי נסבלת, ומשעמם באופן נוראי". דוסטויבסקי קיבל את הביקורת באופן קשה, ושקע בדיכאון. שנים לאחר מכן כתב דוסטויבסקי שעל אף שנכשל באופן מוחלט עם הנובלה, ועל אף שהצורה הספרותית שלה היא "כישלון גמור", הרעיון שעומד בבסיס הסיפור הוא צלול ורציני.
לאחר פרסום "הכפיל" פחתה ההתעניינות בדוסטויבסקי, ורוב יצירותיו באותה התקופה זכו לביקורות בינוניות. בשנתיים האחרונות לפני מאסרו, נזקק דוסטויבסקי לסיוע כספי באופן תדיר, אותו העניק לו העורך של "רשימות המולדת", אנדריי קרייבסקי. נדמה היה שתחזיתו של בלינסקי, לפיה דוסטויבסקי יהפוך לאחד הסופרים הגדולים ביותר ברוסיה, לא תתגשם.
מאסר וגלות בסיביר.
באביב של 1847 החל דוסטויבסקי לבקר ב"חוג פטרשבסקי" – קבוצה חברתית אינטלקטואלית שהתגבשה סביב מיכאיל בוטשביץ' פטרשבסקי, בן אצולה רוסי וחסיד של שארל פורייה. החוג נהג להיפגש בביתו של פטרשבסקי, שכלל ספרייה גדולה עם יצירות רבות שנאסרו לפרסום על ידי המשטר, על מנת לדון ברעיונות סוציאליסטיים וליברליים. דוסטויבסקי היה מבקר קבוע בחוג אף שלא היה ידיד קרוב של פטרשבסקי עצמו.
באביב של 1848 החלה קבוצה מצומצמת יותר של אנשים מתוך החוג, בהם גם דוסטויבסקי, להיפגש בנפרד. קבוצה זו, שכונתה "חוג פאלם־דורוב" (Palm-Durov), הייתה ביקורתית כלפי תחומי העניין הצרים של פטרשבסקי עצמו, שהתמקד בעיקר בפילוסופיה ובפוליטיקה, וביקשה להרחיב את הדיון גם לנושאים כאמנות, ספרות ומוזיקה. כמה חברים מקרב קבוצה זו, בהם דוסטויבסקי עצמו, ניסו בתחילת 1849 לרכוש בית דפוס קטן, על מנת להדפיס בו חומרי תעמולה ולהפיצם בקרב האיכרים.
ב-23 באפריל 1849 ערכה המשטרה החשאית ברוסיה גל של מעצרים בקרב החברים ב"חוג פטרשבסקי". דוסטויבסקי נעצר במיטתו סמוך לארבע בבוקר, ולאחר חיפוש בביתו נלקח למעצר. הצאר ניקולאי הראשון, שהיה עדיין תחת הרושם של אירועי אביב העמים שנה קודם לכן, ראה במפגשים ובדיונים עניין חמור מאוד, ודרש למצות את הדין עם העצירים. מדוסטויבסקי נשללו הדרגות הצבאיות והזכויות האזרחיות, ויחד עם 15 מהנאשמים האחרים הוא נידון למוות בירייה.
ב-22 בדצמבר 1849 נלקחו חברי "חוג פטרשבקי" לכיכר סמנובסקי בסנקט פטרבורג, שם המתינה להם כיתת יורים. שלושה מבין חברי החוג כבר נקשרו לעמודים ועיניהם כוסו, אך בסופו של דבר הם לא הוצאו להורג. כמה ימים קודם לכן החליט הצאר לחוס על חיי העצירים, אך הורה להודיע להם על כך רק ברגע האחרון. חוויה זו השפיעה על דוסטויבסקי עמוקות. הוא זנח את דעותיו הפרוגרסיביות ושב להיות נוצרי אורתודוקסי אדוק. גזר דינו של דוסטויבסקי הומר בארבע שנות מאסר עם עבודת פרך באומסק שבסיביר, ושירות צבאי לזמן בלתי מוגבל.
החוויות של דוסטויבסקי בתקופת מאסרו שימשו בסיס לרומן רשימות מבית המוות, שפורסם בשנת 1862; והן גם נרמזות בקצרה בספר החטא ועונשו, שגיבורו רסקולניקוב נדון לעבודת פרך במחנה עבודה ליד הנהר אירטיש שעל גדותיו שוכנת אומסק.