В 1934 году было подписано Таифское соглашение, которое определило вектор развития отношений Йемена с соседней Саудовской Аравией. В 1995 году лидеры обеих стран подтвердили приверженность к соблюдению положений Таифского соглашения, которое в том числе определяет государственную границу. В 1960-х годах СССР и КНР оказывали материальную помощь Северному Йемену. В сентябре 1962 года в Йеменской Арабской Республике произошла революция, после чего страна попала в зависимость от Египта. Саудовская Аравия выступила против революции в Северном Йемене и не признавала власть в этой стране до 1970 года. Затем, Саудовская Аравия оказала Йемену значительную материальную поддержку, а также поддерживала тесные контакты с племенами этой страны. В конце 1970-х и 1980-х годов сотни тысяч йеменцев отправились на работу в Саудовскую Аравию. Народная Демократическая Республика Йемен имела дипломатические отношения со многими странами, но основные контакты она поддерживала с Советским Союзом и другими марксистскими странами. Отношения между НДРЙ и другими арабскими государствами Аравийского полуострова были напряжёнными. В 1969 и 1973 годах были военные столкновения с Саудовской Аравией, а также НДРЙ оказывала активную поддержку восстанию в Дофаре против соседнего Омана. В феврале 1989 года Северный Йемен вместе с Ираком, Иорданией и Египтом стал основателем Совета арабского сотрудничества. В 1990 году ЙАР и НДРЙ объединились в единое государство Республика Йемен. Во время вторжения Ирака в Кувейт и последующей за этим международной военной операцией «Буря в пустыне», Йемен занял нейтральную позицию. Йемен не является членом Совета сотрудничества арабских государств Персидского залива.