Luego recorrió las costas venezolanas desde Curiana hasta la península de Paraguaná e intentó fundar el 3 de mayo de 1502 una colonia en la península de la Guajira, exactamente en bahía Honda, a la que llamó "Santa Cruz" y que se convirtió en el primer poblado español en territorio colombiano y, por ende, el primero en tierra firme.