日本は従来から北イエメン、南イエメン両国ともに国家承認し外交関係をそれぞれ有していたが、1990年5月22日にはイエメン共和国成立（統一）が起こり、翌日の5月23日に日本はこれを国家承認、5月25日に改めて外交関係が樹立された。その後、1990年7月にはアデン出張駐在官事務所を開設するも、イエメン内戦などの情勢不安があり1997年12月には閉鎖された。一方の日本では、1990年11月にイエメン・日本友好協会が設立されている。2011年イエメン騒乱では在イエメン日本国大使館が3月に一時閉鎖され、12月には業務が再開されるも2015年イエメン内戦の勃発により再び閉鎖し、現在に至るまで在サウジアラビア日本国大使館がイエメンの大使館業務を兼轄している。なお、2015年の時点で隣国やで中国海軍などの協力もあり、在留邦人はイエメンを脱出している。