Początkowo terminował u rzeźbiarza Andrea Sansovino (stąd jego nazwisko). W 1505/1506 r. wraz z Giuliano da Sangallo udał się do Rzymu, gdzie prawdopodobnie poznał Donato Bramante, który właśnie w tym czasie na zlecenie Juliusza II rozpoczynał realizację projektu przebudowy bazyliki Św. Piotra w Rzymie. Bramante wywarł duży wpływ na twórczość Sansovina. Po 1506 r. przez 20 lat pracował głównie we Florencji i w Rzymie. W 1527 r., po wybuchu Sacco di Roma Sansovino zbiegł do Wenecji, gdzie przebywał do końca swoich dni. W 1529 r. został mianowany głównym architektem Wenecji, funkcję tę sprawował ok. 40 lat. W dziełach architektonicznych i rzeźbiarskich Jacopo Sansovina są widoczne silne wpływy Michała Anioła.