4年（明治37年）市电开通青山通三宅坂至青山四丁目（现在外苑前附近）区间，明治末期开通内堀通至涩谷的路面电车。太平洋战争末期的1945年（昭和20年）5月，美军发动东京大空袭（山之手大空袭），赤坂地区（赤坂、青山）受害率达98.3％。1962年（昭和37年）、「青山通」成为正式名称。1964年（昭和39年）东京奥运规划道路拓宽工程，青山通路幅从22公尺拓宽至现在的40公尺。昭和43年9月29日，路面电车（都电）停驶青山1丁目～涩谷区间，青山通从此成为汽车专用道路。