襄国郡（今河北邢台）归款唐朝，封东阳公，唐朝改襄国郡为邢州，拜邢州刺史。二年，河北窦建德攻陷赵州、邢州，赵州刺史张志昂、邢州刺史陈君宾、河北道慰抚大使张道源等人被俘虏，窦建德欲杀之，其国子祭酒凌敬进言劝谏，乃得以活命。武德四年（621年）五月，窦建德在虎牢关之战中战败被擒，河北被唐军平定，陈君宾被任为洺州刺史，右武卫将军秦武通驻守洺州。七月，窦建德余部刘黑闼在贝州漳南起兵，唐朝山东道行台淮安王李神通、黎州总管李世勣相继战败，十二月，洺州被攻陷，陈君宾与守将秦武通、永年令程名振（永年是洺州州治所在地）弃城向西