Utvecklingen vid 1 Undershaft och 22 Bishopsgate godkändes av City of London Corporation tidigare i år.
Khan sade att båda skulle innefatta en fri plattform för offentlig observation.
Tornet på 73 våningar vid 1 Underaxel, känd som Trelis, kommer att vara 305 meter högt - bara fem meter kortare än skärvans spets.
Utvecklingen av Bishopsgate sker tio år efter det att den illa lottade Pinnacle beviljades planeringsposition.
Denna utveckling övergavs så småningom och lämnade ett halvfärdigt niovåningsschakt som pekade mot himlen efter att finansieringen hade torkat upp för fyra år sedan.
Stadshuset sade att den nya utvecklingen skulle leverera nästan 6 miljoner pund i bidrag till prisvärda bostäder, som London Corporation kommer att använda för att leverera prisvärda bostäder på sina större egendomar över hela staden.
Det kommer också att ge mer än 14 miljoner pund mot byggandet av Crossrail-projektet.
Det sades att planerna omfattar en betydande utvidgning av det offentliga öppna rummet på platserna, liksom kontorslokaler för nästan 20.000 arbetare.
Khan sade: "Dessa två projekt utgör en betydande investering i hjärtat av Londons ekonomi och är ett tydligt tecken på att kapitalet är öppet för företag.
"De kommer att vara mycket synliga tecken på Londons varaktiga lockelse som en plats att investera.
"Dessa nya landmärken byggnader kommer att erbjuda kontor i världsklass och det är goda nyheter att utvecklingen av platsen vid 22 Bishopsgate nu kan fortsätta, eftersom detta har legat oanvänd i nästan fem år.
"Vad mer är, Londonbor och besökare bör ha möjlighet att ta i utsikt från de övre delarna av dessa nya byggnader, gratis, och jag är verkligen glad att vi har kunnat säkra detta som en del av planerna."
London borgmästare Sadiq Khan har godkänt byggandet av två nya skyskrapor för huvudstaden.