Etter fire års medisinstudier klarte ikke faren å finansiere studiene videre. Galileo avbrøt derfor studiet i 1585 og reiste til Firenze for å studere matematikk hos Ostilio Ricci, en matematiker i Niccolò Tartaglias skole. Galileo tjente til livsopphold ved å gi privatundervisning. Han beskjeftiget seg også med anvendt matematikk, mekanikk og hydraulikk. Ved å konstruere en hydrostatisk skålvekt for bestemmelse av densitet, løste han et antikt problem av Heron.