Pentagon sade Khalid al-Dhuby hade godkänts för frisläppande sedan 2006 och Mahmoud Omar Bin Atef sedan 2009.
Båda har hållits kvar i mer än tio år och har aldrig åtalats.
Ghana har gett tillstånd för männen att stanna i två år med säkerhetstillstånd, sade utrikesminister Hanna Tetteh.
Den västafrikanska nationen har inte tidigare tagit några Guantanamofångar.
Fängelset inrättades efter attackerna den 11 september 2001 i USA för att kvarhålla vad Washington kallade "fiendestridande".
USA: s president Barack Obama har sagt att han vill stänga fängelset innan han lämnar kontoret 2017.
Enligt militära uppgifter är Mahmoud Omar Bin Atef en jemenisk medborgare född i Saudiarabien 1979 och överlämnades till USA efter att ha tillfångatagits av Nordalliansstyrkorna i Afghanistan 2001.
Hans amerikanska advokat, George Clark, beskrev honom som en "smart, smart ung man" och sade att hans klient hade för avsikt att bilda familj och hitta arbete.
Amerikanska officiella dokument säger Khalid al-Dhuby föddes i Saudiarabien 1981 och reste till Afghanistan för att slåss. De säger att han bedömdes som "en trolig medlem" av al-Qaida.
Dussintals länder har tagit emot tidigare Guantanamo Bay-fångar, däribland andra afrikanska stater som Uganda och Kap Verde.
Sedan 2002 har sammanlagt 780 män hållits i Guantanamo, varav de allra flesta har åtalats eller åtalats för brott.
Den amerikanska flottans bas har nu 105 fångar, av vilka nästan 50 har godkänts för frigivning.
Två jemenitiska fångar som hålls fångna i det kontroversiella amerikanska militärfängelset i Guantanamobukten, Kuba, har förts över till Ghana.