1975年，身为福州军区副司令员的陈再道，转为二线，任军委顾问。对他来说，总感到浑身有劲使不出来，看到别人干得欢，自己赋闲，心里直发痒。
几个月后，他接到罗瑞卿来电，得知自己被任命为铁道兵司令员，重返一线工作。陈再道没有思想准备，也不好说什么更多的话，内心难以抑制激动，只能用实际行动表达。
第二件事就是转好施工生产，大幅度提高劳动生产率。
陈再道在铁道兵5年中，经常下部队视察。到一线后，看到铁道兵太苦了，在崇山峻岭、戈壁高原担负繁重的施工任务，条件艰苦自不必说，危险时时刻刻伴随他们左右。
他们成天与泥土、石头打交道，最大的奢求是下班洗个热水澡，这个要求低得不能再低了，而在铁道兵不好实现。但陈再道看到铁道兵的艰苦后，说道：如果这个要求得不到满足，我就不配当司令员。
毫不客气地说，铁道兵是当时最艰苦的兵种，没有之一。
从前线回来后，他写报告想上级反应铁道兵的真实情况，希望改善他们的待遇。
文件写好给陈再道看，他发现少一句话，然后对秘书嚷话：我那句话为什么删掉，应该把你送到青藏高原上去几个月，就让感受一下当兵有多苦，复出代价多么大。
陈再道为铁道兵的发展建设，起到积极作用。可在1982年，铁道兵与铁道部合并，他光荣退居二线，到政协履职。