大夫傅祗开府，辟命王彬为掾。及后时为琅琊王的晋元帝司马睿南镇建康，王彬于是与其兄王廙一同南渡，任建武将军、扬州刺史刘机的长史。及后获司马睿任命为镇东贼曹参军，后转典兵参军。永嘉五年（311年），司马睿讨伐不听命令的江州刺史华轶，王彬因参与其中而封都亭侯。太兴元年（318年）司马睿即位为帝，王彬迁任侍中。永昌元年（322年），王敦于江州举兵攻向建康，发动王敦之乱。同年王敦因石头城守将周札自开城门而佔领石头城。晋元帝派兵进攻石头城但失败，王敦亦据兵石头城而不入朝，元帝唯有脱下戎服，派王彬慰劳王敦以求和。