伊尹死后，兼通一跃由参议中纳言直接升至内大臣。天延二年（974年），为氏长者，拜太政大臣，叙从二位，允许乘辇入内，为关白。天皇赐内舍人二人，左右近卫府各四人为随身。同三年，叙从一位，允许乘牛车入内。长女藤原媓子入圆融天皇后宫，立为中宫。此时，兼家长女藤原超子既已为冷泉上皇的女御，兼家还想以次女藤原诠子入圆融天皇后宫，所以兄弟二人之间嫌隙日深。兼家的宅邸东三条与堀河府邸相邻，每当有宾客到兼家府上，兼通必在背后辱骂他，于是宾客畏惧，只能夜间才去拜访兼家。后超子生了冷泉天皇的第二皇子居贞亲王，兼通越来越不开心，