רייטר נולד ב-24 באפריל 1886 למשפחה לטבית בפלך קורלנד שהשתייך אז לאימפריה הרוסית. שמו המקורי היה מרטינס רייטרס (בלטבית: Mārtiņš Reiters). בשנת 1906 התגייס רייטר לצבא האימפריה הרוסית, וב-1910 סיים את האקדמיה הצבאית באירקוטסק. במהלך מלחמת העולם הראשונה, פיקד רייטר על פלוגה, מילא תפקידי מטה והגיע לדרגת פולקובניק. הוא נפל בשבי צבא הקיסרות הגרמנית בפברואר 1918, במהלך מבצע אגרוף, ונשלח למחנה שבויים בפרוסיה המזרחית. הוא שוחרר מהשבי ב-1919, ועם שחרורו הצטרף למפלגה הבולשביקית והתגייס לצבא האדום. הוא לחם בשורות הצבא האדום במלחמת האזרחים ברוסיה, וב-1921 מונה למפקד בריגדה, ולאחר מכן לסגן מפקד הדיוויזיה ה-11, והשתתף גם במלחמה הפולנית-סובייטית ובדיכוי מרד קרונשטאדט. ב-1922 הוענק לו בפעם הראשונה עיטור הדגל האדום (הוא עתיד לזכות בעוד שלושה עיטורים כאלו).