Han forlot Hadley i 1927 og giftet seg samme år med journalisten Pauline Pfeiffer. Han ønsket imidlertid å etablere seg som forfatter i USA, og søkte etter et inspirerende sted å bo. Da Pauline ble gravid, forlot de Frankrike, siden de ønsket at barnet skulle bli født i USA. De bodde først til leie i Key West i Florida Keys før de flyttet til Paulines foreldrehjem i Piggott, Arkansas. 28. juni 1928 ble Patrick «Mouse» Hemingway født. 12. november 1931 fikk paret nok en sønn, Gregory «Gigi» Hancock Hemingway. Sønnene ble begge født i Kansas City, men tilbrakte store deler av oppveksten i Key West. I 1930 kjøpte de et hus hvor de etter restaureringsarbeider flyttet inn i april 1931. Dette huset er i dag bevart uendret som et museum over Hemingway.