构上，TEM2型机车和TEM1型机车并没有较大的改变，较明显的差异在于司机室采用了垂直的侧墙，不再采用TEM1型机车司机室侧墙上部向上倾斜的设计，以方便司机了望。机车采用底架承载结构罩式车体，车体各项载荷全部由底架承担，底架和车体重量通过旁承由两台三轴转向架支承，牵引力和制动力通过心盘传递。车体采用外走廊式罩式结构，司机室位于车体中部。
柴油机.TEM2型机车装用一台ПД1型柴油机，是在2Д50型柴油机的基础上，通过强化涡轮增压器及中冷器，从而提高了输出功率。该型柴油机为六气缸、四