Karry var medlem av Hessens landdag fra 1960 til 1978 og formann for FDPs fraksjon fra 1968 til 1970. Fra 1970 til sin død var han handelsminister og visestatsminister i Hessen. Karry drev en svært aktiv handelspolitikk på vegne av delstaten Hessen, gjennom besøk i bl.a. Folkerepublikken Kina, som på denne tiden åpnet for utenlandske investeringer, og arabiske land. Han engasjerte seg også for gjenoppbyggingen av Alte Oper i Frankfurt.