十二岁的晋成帝已有司马丕和司马奕两名皇子，但仍是婴儿，庾冰自以为庾氏兄弟掌权已久，怕成帝之子继位后会因与皇帝血缘变疏而被离间，失去权力。于是常常向成帝说东晋仍有强大外族政权，应该立年长的君主，并建议由成帝弟琅邪王司马岳继位。成帝最终答允。及后庾冰与中书令何充、武陵王司马晞、会稽王司马昱和尚书令诸葛恢被任命为顾命大臣辅政，庾冰进号左将军。同年成帝逝世，司马岳（晋康帝）继位，庾冰进车骑将军。庾冰以权力正盛而感到惧怕，于是多次请求出镇。至建元元年（343年），庾冰弟，安西将军庾翼有北伐志向，更联结前燕和前凉，意图