תכונה נוספת המשותפת לסיפוריו הקצרים של שמי היא שבכולם המשבר אליו נקלעת הדמות מערער את תדמיתה העצמית, עובדה שמוסיפה פן פסיכולוגי לסיפוריו. בחלק מהסיפורים, הדמות מגיבה לעלבון שהיא סופגת בייאוש, דיכאון, ורחמים עצמיים. כדוגמה, בסוף סיפורו הראשון של שמי, "העקרה," מסתגרת פלור בחדרה, מתוך הכרה שמקומה במשק הבית רק ילך וידעך במשך הזמן, וכל שביכולתה לעשות הוא לחלום על חיבוק מאמה המנוחה, היצור היחידי שאהב אותה בלי תנאי. בסוף הסיפור "בין חולות הישימון" מביט מנצור בלב שבור על סוסתו האהובה שנגנבה ממנו תחת אפו ושדוהרת לה לתוך האופק, מנוע מלעשות דבר שמא יגרע הדבר מגדולתה של סוסתו. בסיפור "הבריחה" מופקד הזקן חכם בכור על ידי קרובו היחידי בבית אבות בתנאים מחפירים, ועל אף שהוא אוזר אומץ ומצליח להימלט מבית האבות, לאחר שהוא טועם מהחופש הוא תופס שאין לו בעצם לאן ללכת, והסיפור נגמר כשהוא יושב בדרך, מבולבל, מתוסכל, ובדמעות.
בסיפורים אחרים בחר שמי לתת לדמות להגיב להשפלתה בזעם הרסני שלא שיפר את מצבה ואף החמיר אותו. למשל, בסיפור "אב ובנותיו" תיאר שמי איך החכם צבי חוזר לביתו בדמשק לאחר שנעדר ממנו לשבע שנים ועד כמה הוא מתקשה להתרגל לשינוי שחל בקרב בני משפחתו. כשהוא מגלה שבתו הבכורה הפכה לרקדנית במועדון לילה, הוא קופץ על הבמה, נושך ומכה אותה, עד שהקהל הנדהם שועט עליו ודוחף אותו לתוך גרם מדרגות שממנו הוא נופל. בסיפור "ג'ומעה אלאהבל," תיאר שמי איך גיבור הסיפור ג'ומעה, רפה שכל ערבי, מתלהם מלגלוגם של ילדי הכפר, ובהתקף אמוק הוא קורע את בגדיו מעליו, שורט ומכה את עצמו, ורק התערבותם של תושבי הכפר שמשכיבים אותו ארצה להרגיעו מצילה אותו. על אף שאחד הדברים המאפיינים את כתיבתו של שמי הוא ההתמקדות בחייהם של עדות מסוימות, סיפוריו הטיבו לבטא דווקא את התכונה האוניברסלית של הקושי שכמעט כל אדם ימצא כשהוא נדרש לעכל או להבליג כנגד עלבון צורם.
"נקמת האבות".
יצירתו הנודעת ביותר של שמי היא ספרו הבודד "נקמת האבות" שפורסם ב-1927 תחת התת-כותרת "סיפור מחיי הערבים". גרשון שקד, שכתב מבוא לגרסה של "נקמת האבות" שיצאה לאור ב-1975, תיאר את הנובלה הזו כאחת מהיצירות החשובות ביותר בספרות העברית.
הסיפור, ששמי בחר לספר דרך דמות של מספר ערבי, מתאר את חייהם של ערבים מוסלמים מתקופת היישוב באופן נאמן ויוצא מן הכלל בספרות העברית דאז, ורווי בפרטים שרק אדם שגדל מתוך תרבות זו יכול היה לספק.
מקומו של שמי בקאנון הספרות העברית.
יצחק שמי נבדל מסופרים אחרים של היישוב העברי בעיקר בזכות הדמויות עליהן כתב ובדרך שבה כתב עליהן. סיפוריו התמקדו בערבים ויהודים בני עדות המזרח, דמויות שהופיעו רק באופן שולי בספרות העברית דאז. העובדה שהספרות העברית נטתה להתעלם מתרבויות אלו כבר צוינה בזמנו על ידי יוסף אליהו שלוש בספרו "פרשת חיי" שפורסם לראשונה ב-1931. שלוש, שדגל בשיפור היחסים בין שכניה הערבים והיהודים של ארץ ישראל, ביקר את המנהיגות הציונית בארץ על כך שהיא התעלמה מעצם קיומם של ערביי ארץ ישראל. כדוגמה טען שלוש שבכל הספרות הציונית אין אפילו ספר אחד שמתאר את חייהם באופן מציאותי או מכיל מידע מהימן על מצבם. אמנם היו מספר סופרים עבריים בתקופה זו שכתבו על דמויות אלה באותה תקופה, בפרט יהודה בורלא ומשה סמילנסקי, אך הם כתבו על קהילות אלו בתור משקיפים חיצוניים. להבדיל, שמי כתב על ערבים ועל קהילות יהודים בעולם הערבי מתוך הכרה פנימית של התרבות הערבית, ולכן בניגוד לקביעתו של שלוש יצירותיו של שמי היוו תיאור אותנטי של קהילות אלו ושל התרבות הערבית בפרט. מבקרת הספרות גילה רמרז-ראוך תארה את כתיבתו של שמי כלא פחות מאשר ספרות ערבית שנכתבה בעברית, וחנן חבר סיכם את שמי בהערה "לצד המזרחיות, יחד עם זאת, חזרה וצוינה מעורבותו העמוקה בחיי הערבים. הדברים הגיעו עד כדי כך שגרשון שקד הגדיר את כתיבתו ככתיבה של 'סופר יהודי-ערבי שכתב עברית.' הקריאה בסיפוריו מזמנת לקורא חוויה לא שגרתית ואולי אף יחידה במינה בספרות העברית."
חלק מחוויה מיוחדת זו נובעת מיכולתו של שמי לאבחן ולתאר את הגינונים של התרבות המזרחית הזו, ולתת לקורא מטעמה. במיוחד ניכר בכתיבתו הסגנון האתנוגרפי, ששילב עובדות מחיי האוכלוסיות עליהן כתב בסיפוריו. דוגמה טובה היא סיפורו "ג'ומעה אלאהבל", שם מתאר שמי תוך כדי הסיפור את חלוקת האדמות בין משפחות החקלאים שבפאתי חברון, את הדרך שבה נהגו האיכרים ליישב סכסוכים ביניהם, ואת הקנס המקובל עבור כבשה שנבחרה מראש כתשלום, אך בינתיים נטרפה (פי ארבעה ערך הכבשה ושכרו של השופט). בנוסף, שמי אימץ סגנון אטי ועצל שמשקף את האווירה של המקומות עליהן כתב. גם השפה שבה השתמש הוסיפה אותנטיות לכתביו. חנן חבר תיאר בראיון את שפתו כ"ניסיון לחיקוי חלקי של הדיבור הערבי... הוא יצר איזו גרסה מעורבת של לשון עברית של הספרות העברית החדשה, מודרנית, עם הדהוד ערבי, וזה יוצר סוג של ערבוב שהוא מאוד מאוד מיוחד."
במידה רבה, תכונות אלו קבעו את מקומו בקאנון הספרות העברית. לאור העובדה שסיפוריו עסקו בתרבות שנתפסה כאקזוטית לרוב הקוראים העברים בזמנו, מה גם הכמות המצומצמת של יצירותיו, בהתחלה נטו רבים להתעלם או להמעיט מערכן של יצירותיו. המבקר יעקב רבינוביץ סיכם זאת עם קביעתו ש"בסיפוריו מחיי ישראל נשאר שמי סופר דל-ערך" (מסלולי ספרות, 1971, 60). אחרים מצאו דופי דווקא בסגנון כתיבתו המכוון של שמי. כדוגמה, הסופרת והמבקרת חמוטל בר יוסף ציינה ש"תמימותו וסגנונו הדשן של שמי אינם עוברים לפעמים את השלב הבלתי מפותח של כתיבה בסרית. די בכך לפסול אותו בעיני קורא אינטלקטואלי, מנוסה, בן זמננו." (הארץ, 8 במאי 1964).
בנוסף, בתקופה שלפני קום המדינה התפתחה הספרות העברית לכיוון של מוטיבים אוניברסליים. התפתחות זו הקשתה עוד יותר על סופר כמו שמי שהתעקש לכתוב מנקודת מבט כל כך ספציפית. חנן חבר טוען כי אחד הדברים שפגעו במעמדו של שמי בפרט הייתה ביקורתו של יוסף חיים ברנר, שליגלג על אלו שכתבו "מחיי-היהודים בלודז', מחיי בני גליציה, מחיי הקראים, מחיי הספרדים, מחיי ארץ-ישראל, מחיי בני פתח-תקוה… ולא דבר פנימי, גילוי החיים הפנימיים והמהות שלהם בתוך יחסי וגוני זמן ידוע וסביבה ידועה." ברנר ידע על שמי ואף נפגש אתו, ושמי הצעיר תיאר את פגישתו הראשונה עם ברנר כמאורע רב השפעה. לכן יש שמפרשים את ההתייחסות לסיפורים מ"חיי הספרדים" במשפט זה לרמז ברור לשני סיפוריו הראשונים של שמי שיצאו לאור תחת הכותרת "מחיי הספרדים." שמי סירב לקבל את הביקורת הזו והמשיך בדרכו, ואף בחר להוסיף לספרו "נקמת האבות" שיצא לאור כמה שנים אחרי שברנר נרצח את התת-כותרת הפרובוקטיבית "סיפור מחיי הערבים."
עם זאת, במשך הזמן עלה ערכו של שמי כסופר. כמה מסיפוריו הקצרים נכללו באוספי ספרות למיניהם, וחלקם אף שולבו בתוכניות הלימוד של בתי ספר בישראל, לרוב כדוגמה למתכונת הקלאסית של ז'אנר הסיפור הקצר. פה ושם גם הופיעו אזכורים לכתביו של שמי בספרות עברית מודרנית, כמו השיר "משל בדואי על סוסה ונמשל על אורוות המוח" של המשורר רוני סומק (המופיע בספר "המתופף של המהפכה", 2001) המבוסס על סיפורו של שמי "בין חולות הישימון".
ההערכה המאוחרת ליצירותיו של שמי בעיקר נבעה מכך שהן היו מבין הבודדות שנתנו קול לקהילות מסוימות שלא יוצגו בספרות העברית של לפני קום המדינה, ולערביי ארץ ישראל בפרט. הסופר א. ב. יהושע, ששנים לאחר מכן זכה לשבחים רבים על שבספרו "המאהב" יצר אף הוא דמות ערבית אותנטית בתור אחד ממספרי העלילה, הכיר בתרומתו המוקדמת של שמי וכתב עליו ש"הוא ידע איך לחדור, בהזדהות עמוקה ועין חדה, לנשמתם של הערבים ולרשום את סיפורם בלי רומנטיקה מזויפת." המבקר גרשון שקד שיבח אותו על שהוא "חדר למעמקי המנטאליות הערבית וגילה בה פנים חדשות." למרות ביקורת חיובית זו על שמי, יש גם שסוברים שהדמויות הערביות שיצר היו פשטניות. מבקרת הספרות גילה רמרז-ראוך, שציינה אף היא את יכולתו של שמי להבין ולהזדהות עם ההווי הערבי של זמנו, ביקרה אותו על כך שהדמויות הערביות שיצר הן במידה מסוימת סטריאוטיפיות, ומגלמות את הערבי כ"פרא אציל" הנאמן לשבטו ואדמתו.
ספורי שמי בתרגומם לאנגלית זכו לביקורות אוהדות, ותרגום סיפוריו לצרפתית מומן ויצא לאור בידי הכנסייה הקלוויניסטית בשווייץ (Labor et Fides). שמי, כמו אחרים בני זמנו, ידע שהוא עד לעולם שהולך ונעלם אל מול עניו, וסבר שטוב לו שייעלם. יחד עם זאת - יצר בכתיבתו תמונת מצב סופנית - דיכוי האשה, בורות הרת אסון של המוהל, זנות בדמשק, ופולחן המקומות הקדושים שהפך לרצחני. שמי תיעד תופעות שלא תועדו במקורות אחרים - כמו הפולחן המוסלמי הסופי הייחודי לפלסטין - פולחן משה - קלים-אללה. מבקרת ספרות בלוס אנג'לס טיימס תארה את היצירות "סיפורים זוהרים מן המזרח התיכון שנעלם".