К началу Великой Отечественной войны 22 июня 1941 года ВВС СССР располагали 516 боеготовыми самолётами, не считая 25, находившихся в подчинении ВМФ СССР. 23 июня ТБ-3 начал ночные бомбардировки территории противника. Надо отметить, что самолёты ТБ-3 фактически не пострадали в первые дни войны, так как базировались достаточно далеко от границ (к августу 1941 года ТБ-3 составлял 25 % всех бомбовых ВВС), и в целом, потери были относительно небольшими — за 1941 год по всем причинам, включая небоевые потери и брошенные при отступлении, было потеряно менее 40 самолётов. Вынужденные попытки использовать ТБ-3 днём полностью провалились: несмотря на очень высокую живучесть, низкая скорость делала самолёт уязвимым для зениток, а круговое, но откровенно слабое, оборонительное вооружение оставляло его фактически беззащитным перед современными истребителями. Трагический эпизод с уничтожением группы ТБ-3, вылетевшей днём и без прикрытия, был описан Константином Симоновым в первой части романа-трилогии «Живые и мёртвые», а также воплощён в экранизации романа. Тем не менее, в качестве ночного бомбардировщика ТБ-3 оказался весьма удачным вариантом, так как невысокая скорость способствовала точности бомбометания. Немаловажно, что изначально в экипажи ТБ-3 отбирались наиболее опытные пилоты, и при хорошей погоде за ночь один экипаж мог совершить до трёх боевых вылетов. С учётом общего числа задействованных самолётов, это давало весомый вклад в ночные бомбардировки в первой половине войны. ТБ-3 принимал участие во всех важных битвах 1941—1943 годов, включая Смоленское сражение, Битву за Москву, Сталинградскую битву, прорыв блокады Ленинграда и Курскую битву. К 1 июля 1945 года 18-я воздушная дивизия ещё имела десять самолётов ТБ-3, находящихся в боевой готовности.