Goldberg ble uteksaminert ved University of California, Berkeley i 1904, og begynte å jobbe som ingeniør i San Francisco. Han hadde allerede da en interesse for tegning, og etter bare noen måneder fikk han jobb som sportstegner i . I 1907 flyttet han til New York hvor han tegnet for flere aviser inkludert og . Han laget etterhvert flere tegneserier og oppnådde stor anerkjennelse.