Le quartier tient son nom d'un paysan hollandais du , Jacobus Kip. Ce dernier possédait une ferme qui s'étendait entre la Deuxième Avenue, la 35e rue, et l'East River. La rivière formait alors une baie qui portait son nom, et bien que celle-ci ait disparu, le quartier a conservé son nom originel. Une bataille de la Guerre d'indépendance des États-Unis s'est déroulée dans le quartier, avant que les troupes britanniques ne s'emparent de la ville : le Débarquement de Kips Bay. L'armée anglaise débarqua avec 4000 hommes sous le commandement du général William Howe à Kips Bay le et mis en déroute les 900 miliciens américains commandés par le Colonel William Douglas qui durent faire retraite et laisser les Britanniques occuper la ville.