I 1925 kontaktet det sovjetiske luftforsvaret luftfartsinstituttet TsAGI og anmodet om konstruksjon av et tungt bombefly med motorytelse på totalt 2 000 hestekrefter. Landingsunderstellet skulle bestå av enten hjul eller flottører. Tupolev OKB startet konstruksjonsarbeidet i sommeren 1926, detaljarbeidet ble overlatt til Vladimir Petlyakov i AGOS (, flygning, sjøflygning og eksperimentell konstruksjon). Luftforsvaret ville ikke prioritere prosjektet, så Petlyakov fortsatte arbeidet på ANT-4 før kan man gå over til det planlagte prosjektet. Etter hvert som ANT-4 prosjektet tok form og settes i produksjon, ble erfaringene overført til ANT-6, og dette var mulig først etter det ble ledig i fabrikkverkene. Byggingen av prototypen begynte i november 1928. Den endelige designen på ANT-6 ble fastslått i 1929, deretter kunne ferdigarbeidet på prototypen starte i fabrikken GAZ-22.