Bei der Volksabstimmung in Oberschlesien am 20. März 1921 stimmten 40 Wahlberechtigte für einen Verbleib Oberschlesiens bei Deutschland und 179 für eine Zugehörigkeit zu Polen. Klein Schierakowitz verblieb nach der Teilung Oberschlesiens beim Deutschen Reich. Am 1. Januar 1931 wurden die Landgemeinden Groß Schierakowitz und Klein Schierakowitz zur Landgemeinde Schierakowitz zusammengeschlossen. Am 12. Februar 1936 wurde der Ort im Zuge einer Welle von Ortsumbenennungen der NS-Zeit in "Klein Graumannsdorf" umbenannt. Bis 1945 befand sich der Ort im Landkreis Tost-Gleiwitz.