便跟随孙策征战江东，立下战功，拜为别部司马。后来孙策于199年攻击卢江打败刘勋，降服很多庐江人，在当中挑选精锐强兵，孙策将精锐的庐江精兵交给陈武，组建东吴最为精锐的部队(卢江精锐)“所向无前”，可见孙策对陈武的器重与提拔。200年，孙策遇刺不治，其弟孙权登位，转任统领五校。所谓的五校就是是古代军队编制，指屯骑、步兵、越骑、长水、射声五校尉督领。孙权非常喜欢他，数次拜访他家。而且累次立下功劳，升为偏将军。215年，陈武随孙权进攻合肥，可惜奋战而死。（《三国演义》作为庞德所杀。"详见合肥之战"）孙权非常悲哀