Retras la Pesta după ce fusese constrâns să demisioneze din armată în 1791, generalul Kray a fost rechemat doi ani mai târziu pentru a comanda garda avansată a Aliaților aflați sub comanda prințului de Coburg, care a luptat în Flandra și în Olanda Austriacă. S-a distins în bătăliile de la Famars, Menin, Wissembourg, Charleroi, Fleurus și, de fapt, la aproape fiecare confruntare cu armatele Republicii Franceze din Campania din Flandra (1792-1795). Kray a fost avansat la gradul de Feldmarschalleutnant (general-locotenent) la 5 martie 1796 și a servit în armata arhiducelui Carol din zona cursului inferior al Rinului. La 19 iunie 1796, după Bătălia de la Wetzlar, l-a forțat pe generalul Jean-Baptiste Kléber să se retragă din Uckerath. El l-a învins, de asemenea, pe generalul de divizie francez Jean-Baptiste Jourdan în lupta de la Limburg din 16 septembrie 1796. A luat parte la diferite acțiuni militare, inclusiv la victoria de la Amberg (24 august 1796) și la Bătălia de la Würzburg (3 septembrie 1796), când, în calitate de comandant de divizie, a fost în mare parte responsabil pentru victoria arhiducelui Carol al Austriei. La 19 septembrie 1796 l-a capturat pe generalul de divizie François Séverin Marceau-Desgraviers, unul dintre cei mai abili și curajoși comandanți francezi ai timpului, care fusese grav rănit; el a dispus transportarea cadavrului generalului în linii franceze, însoțit de o gardă de onoare din Regimentul 35 Husari „Bethlen”. În celebra campanie din 1796, de pe Rin și Dunăre, a îndeplinit importanta sarcină de comandant de corp de armată. În anul următor a avut mai puțin succes, fiind învins în luptele de pe Lahn și de la Mainz. Mai rău, a fost surprins și învins de generalul francez Louis-Lazarre Hoche în Bătălia de la Neuwied din 1797. Kray a fost acuzat de neglijență; o curte marțială l-a găsit vinovat și l-a condamnat la două săptămâni de arest. Și-a oferit demisia în semn de protest, dar i-a fost refuzată.