Den 29. juni 1927, trettitre dager etter Charles Lindberghs atlanterhavsrekord fløy Acosta fra Roosevelt Field på Long Island til Frankrike med Commander Admiral Richard E. Byrd ombord i America's FlyersWhittemore Memorial Bridge'' i Naugatuck. Vingespennet på flyet hans fly var ifølge lokalkjente større enn bredden på brobuen. Den planlagte flyvningen kan ha vært et reklamestunt. På skroget på Acostas fly var det malt reklame for tennplugger. I 1929 ble han bøtlagt med 500 dollar for dette. Da han ikke betalte boten ble hans pilotlisens trukket tilbake, og han ble arrestert i 1930 for å ha fløyet uten lisens.