发动机冷却水应能避免在冷却系中形成水垢。通常所用的冷却水均含有钙镁铁等矿物盐类，（碳酸盐、氯化盐、硫酸盐、硅酸盐等），这些盐类在常温下以液态溶于水中，当发动机温度升高，水吸热蒸发，盐类浓度逐渐增加，当达到饱和状态时，它们就从水中析出，并沉积在冷却系统的孔道和管壁上，这些沉积物称为水垢。水垢质的坚硬，对金属的粘附力很强。水垢不仅占据水套空间，减少冷却水容量，影响水循环，而且水垢的导热性很差，只有钢铁的1/8～1/500，积附在冷却水道内容易造成堵塞或水垢过厚，气缸壁的热量不能很好地传出去，使发动机过热、功率下降、油耗增加、机油变稀、润滑不良加剧零件的磨损，缩短机器的使用寿命。
冷却水必须采用清洁的软水。软水指开水或经过沉淀的雨水、雪水。当无天然软水，而只能用硬水（井水、泉水和海水）时，必须对硬水进行软化处理使之变成软水后方可使用。软化硬水的方法：把水烧开，使其形成碳酸镁或碳酸钙，然后沉淀除去，此法最简单、经济。
一定要保证冷却水温的正常，正常水温应在75～95℃之间，单缸蒸发式柴油机冷却水可达100℃。水温过高或过低都直接影响着发动机油耗、功率等，从而破坏了发动机的可靠性和经济性。还应注意机车起动后，不能立刻开动，要使转速逐渐增加进行预热，水温达45℃以上方可开动，冬季不能先起动，后加水；应避免发动机在高温下猛加冷水或冬天停车立刻放水，以防激坏缸盖和机体等零部件。对于使用过的冷却水，不应经常更换，因为这种水在使用中所含盐类逐渐沉淀而减少，水被逐渐软化，在冬季需放水时，将水放到容器中，以便下次再用。
冷却水使用软水，虽然可大大减少水垢的生成，但还是不能完全根除，所以发动机累计工作1000小时以后或水垢厚达1～1.5毫米时，应及时清除，清除水垢后，可提高发动机功率和燃料经济指标4％。
由于冷却水套形状复杂，故水垢只能用化学方法清除，通过酸碱的作用，使水垢由不溶解物变成可溶解物。单缸蒸发式柴油机系列，可用两段老丝瓜去皮、籽，清洗干净后，放入水箱里，并定期更换，即可预防和除去水垢。