GP28型柴油机车是干线货运用的四轴柴油机车，采用单司机室、底架承载结构、双侧外走廊的罩式车体，车体上部自前向后由电气室、司机室、动力室、冷却室四部分组成，其中电气室一端称为短罩端，动力室和冷却室一端称为长罩端。机车走行部标准配置为两台布贝格B型二轴转向架。动力装置为一台16气缸、二冲程、机械增压的16-567D1型柴油机。传动系统采用直—直流电传动，柴油机直接驱动一台D32型直流发电机，发出的直流电供给四台D47型直流牵引电动机。牵引电动机采用轴悬式驱动方式，牵引齿轮传动比为4.13（62：15）。