Отцом Якоба ван Хемскерка был Хендрик Корнелис ван Бист Хемскерк, изготовитель корабельных парусов в Амстердаме. Мать неизвестна. Семья переехала из предместий Амстердама и была знатного происхождения. Отец рано умер.  Будучи уже сиротой, Хемскерк учился и постигал азы морского дела в Амстердаме. По окончании обучения ходил на торговых судах. В 1595 году принял участие во второй экспедиции  Виллема Баренца. Также принимал участие в третьем и последнем плавании Баренца (1596-1597), которое закончилось зимовкой на Новой Земле. 1 ноября 1597 года, после смерти Баренца, он с остатками экспедиции вернулся в Амстердам. Благодаря этим экспедициям ван Хемскерк стяжал себе славу мореплавателя. В 1603 году он был адмиралом в Южной Азии, где успешно противостоял Португалии. 25 апреля 1607 года он возглавлял флот из 27 судов в морском сражении при Гибралтаре, где полностью уничтожил испанскую армаду, но сам был убит.