丹杨郡主簿和功曹，后获察孝廉，举秀才，担任吴王司马晏的常侍。太安二年（303年）十二月，因张昌部将石冰在扬州境内作乱，议郎周玘等举兵讨伐，甘卓亦有起兵支持，最终于明年与广陵度支陈敏联合击败并杀死石冰。战后晋惠帝赐甘卓爵都亭侯。及后东海王司马越任命甘卓为其参军，任离狐县令。但甘卓见当时天下大乱，于是弃官回到江东避乱；途中在历阳遇到陈敏，而陈敏有意割据江东，甘卓则与他共图大计，更联结婚姻，以女嫁陈敏子陈景。陈敏于是在永兴二年（304年）十二月起兵，自号楚公，又掳掠周边州郡。周玘等江南大族虽获招揽，但不肯听命于陈