1975年，身為福州軍區副司令員的陳再道，轉為二線，任軍委顧問。對他來說，總感到渾身有勁使不出來，看到別人乾得歡，自己賦閒，心裡直發癢。
幾個月後，他接到羅瑞卿來電，得知自己被任命為鐵道兵司令員，重返一線工作。陳再道沒有思想準備，也不好說什麼更多的話，內心難以抑制激動，只能用實際行動表達。
第二件事就是轉好施工生產，大幅度提高勞動生產率。
陳再道在鐵道兵5年中，經常下部隊視察。到一線後，看到鐵道兵太苦了，在崇山峻岭、戈壁高原擔負繁重的施工任務，條件艱苦自不必說，危險時時刻刻伴隨他們左右。
他們成天與泥土、石頭打交道，最大的奢求是下班洗個熱水澡，這個要求低得不能再低了，而在鐵道兵不好實現。但陳再道看到鐵道兵的艱苦後，說道：如果這個要求得不到滿足，我就不配當司令員。
毫不客氣地說，鐵道兵是當時最艱苦的兵種，沒有之一。
從前線回來後，他寫報告想上級反應鐵道兵的真實情況，希望改善他們的待遇。
文件寫好給陳再道看，他發現少一句話，然後對秘書嚷話：我那句話為什麼刪掉，應該把你送到青藏高原上去幾個月，就讓感受一下當兵有多苦，復出代價多麼大。
陳再道為鐵道兵的發展建設，起到積極作用。可在1982年，鐵道兵與鐵道部合併，他光榮退居二線，到政協履職。