内燃机车由柴油机、传动装置、辅助装置、车体走行部（包括车架、车体、转向架等）、制动装置和控制设备等组成，内燃机车必须加装传动装置来满足机车牵引要求。内燃机车上还有操纵台上的监视表和警告信号装置有：空气、水、油等压力表，主要部位温度表，电流表、电压表，主要部位超温、超压或压力不足等音响和显示警告信号。内燃机车能较好地利用燃料的热能,:，蒸汽机车的热效率一般仅为7%左右，而内燃机车高达28%，可节省大量的燃料。

内燃机车不像蒸汽机车那样费水，也不像蒸汽机车那样在行驶过程中需加煤加水，因此操作更为方便。机车性能良好，操作灵活，可靠性高，使用寿命长。内燃机车都装有一套空气制动机和手制动机。此外，多数电力传动机车增设电阻制动装选，液力传动机车装有液力制动装置。内燃动车组是指具有内燃机动力装置的动车（动车有两个、分布在列车两端，并且车头造型和车厢是配套设计的）和客车编成的车组，一般适宜于市郊或邻近城市间的短途客运。

内燃机车的控制设备：控制机车速度、行驶方向和停车的的设备。主要有机车速度控制器、换向控制器、自动控制阀和辅助制动阀。内燃机车燃油（柴油）在汽缸内燃烧，将热能转换为由柴油曲轴输出的机械能，但并不用来直接驱动动轮，而是通过传动装置转换为适合机车牵引特性要求的机械能，再通过走行部驱动机车动轮在轨道上转动。燃机车以内燃机作为原动力，通过传动装置驱动车轮转动的机车。根据机车上内燃机的燃料种类划分，在我国铁路上采用的内燃机车绝大多数配备柴油机。