机车由两节结构完全相同的十轴机车联挂而成。每节机车装用一台6-4Д56型柴油机，由于柴油机的重量太大，机车采用了具有附加导向轮对的五轴转向架来分担重量。机车采用交—直流电传动，传动装置与TE136型机车大致相同。2TE126型柴油机车设计使用条件为温带和寒带气候，构造速度为100公里/小时，轴重为25吨（动轮），持续牵引力达到2×470千牛，一组2TE126型机车足以取代两组重联的2TE10、2TE116型柴油机车。1989年，2TE126-0001号机车被送往全苏铁道运输科学研究院位于莫斯科州谢尔宾卡