Som andre stikkeveps tar japansk kjempeveps store mengder insekter og andre smådyr for å fôre larvene. Størrelsen og den tykke huden gjør at den gjerne går løs på byttedyr som de mindre stikkevepsene sjelden eller aldri gir seg i kast med. Den tar blant annet andre vepser, bier og knelere. Knelerne er selv blant de største rovinsektene. De fanger andre insekter ved å sakse dem med forbena, for så å spise dem. Men det har hendt en slik sakset veps i stedet har drept den langt større kneleren.