Um de seus primeiros filmes foi "The Journey's End" (1921). O primeiro papel de Bancroft foi em "The Pony Express" (1925), e no ano seguinte ele desempenhou um importante papel coadjuvante em um elenco que incluía Wallace Beery e Charles Farrell no épico naval "Old Ironsides" (1926), passando de quadros históricos para o mundo sombrio do underground nas produções da Paramount Pictures, como "Underworld de" von Sternberg (1927) e "The Docks of New York" (1928). Ele foi indicado ao Oscar de Melhor Ator em 1929 por "Thunderbolt", desempenhou o papel-título em "O Lobo de Wall Street" (1929, lançado pouco antes do Crash de Wall Street), e apareceu no filme da Paramount como celebridade em "Paramount on Parade" (1930) e Rowland Brown's "Blood Money" (1933), condenado pelos censores por temerem que o filme "incitasse os cidadãos cumpridores da lei ao crime".