高句丽又开始蚕食玄菟郡在长城内的辖地，屡次入侵。中平六年（189年），公孙度割据辽东，玄菟为其属地，其太守一直都由公孙家担任。238年，曹魏太尉司马懿灭公孙渊，废候城县，设高句丽、高显、辽阳、望平四县于玄菟郡。265年，西晋建立，废辽阳县。后归慕容垂；子宝，以句丽王安为平州牧居之。404年，高句丽乘中原内战之机，占领辽东全境，玄菟郡为其占领，设玄菟城管领。及至唐高宗与新罗联军灭高句丽，玄菟郡全境尽归唐朝，原境被改编成安东都护府。