九年（868年）生于彭城。徐玠敏干有辞办，作为奉国军节度使（治蔡州，今河南省驻马店市汝南县）崔洪的军吏。899年，蔡州军队将领崔景思等杀害了崔贤，劫持崔洪，背离宣武军节度使（治今河南省开封市）朱全忠，驱赶蔡州的全部军队和百姓渡过淮水投奔淮南节度使（治今江苏省扬州市）杨行密。崔洪先派徐玠去见杨行密，于是成为杨行密手下的军官。906年，杨行密的儿子杨渥主持淮南，派兵攻打镇南军（治今江西省南昌市），当时镇南军节度使钟传死后，他的儿子钟匡时和他的养子钟延规争位，淮南趁机吞并镇南。徐玠参与这次战役，担任粮料使，胜利