和土方一起进入由清河八郎所策画组织的浪士组。文久3年9月，在肃清芹泽鸭一派后，成为副长助勤，以后继续担任新选组的干部。因为经常辅助同乡兼同门的局长近藤和副长土方，所以获得他们大大的信任。在队内的主要工作则是担任对外的职务以及招待要人。元治元年6月池田屋事件时，指挥土方队的支队，在接获近藤队攻入后与十名队员一起进入池田屋并且因为逮捕八名浪人而大大的活跃。在剑客成堆的新选组里，井上的剑术虽然不起眼，但是由于他相当了解自己的能力，所以在执行任务时总是能够顺利完成而且从未出错。庆应元年6月，由于组织再度编