铁道兵第六师前身为“中国人民解放军铁路工程第六师”。根据毛泽东主席签发的《中华人民共和国中央人民政府人民革命军事委员会命令》和国家经济建设的需要，1952年2月1日决定成立“中国人民解放军铁路工程第六师”。六师部队主要为原中国人民解放军第二野战军第五兵团第十七军的部队。第二野战军于1949年2月5日奉命由中原野战军改编而成，刘伯承任司令员，邓小平任政委。下辖第三、第四、第五兵团共9个军。第十七军隶属第五兵团建制，兵团司令员杨勇、政委苏振华。第十七军军长王秉璋、政委赵健民。十七军辖第四十九、五十、五十一师。1949年4月，十七军参加渡江战役南下，而后参加了西南战役和执行剿匪、建立地方人民政权的工作任务。根据中共中央军委命令，1949年11月15日第十七军军部兼贵州军区安顺军分区，第四十九师兼兴仁军分区，第五十师兼镇远军分区，第五十一师兼独山军分区。1950年2月22日，中央军委指示：以第二野战军的领导机构为基础，成立西南军区，贺龙任司令员、邓小平任政委。5月，根据党中央和中央军委的决定，第二野战军并人西南军区，取销兵团和野战军机构。1952年3月17日，第十七军奉命撤销番号。5月24日，铁路工程第六师师部机关由贵州省军区、镇远、独山、遵义等军分区各一部组成。师辖第十六、十七、十八团，分别由原十七军四十九师的一四七团、五十师的150团、五十一师的一五二团顺序改编，由野战军战斗部队改编为工程部队，隶属中央军委和铁道部双重领导。

二、铁道工程第六师(1953年1月-1954年5月)

1953年1月，六师部队参加抗美援朝，执行铁路抢建抢修任务，在朝期问，六师改称“中国人民志愿军铁道工程第六师”。

三、铁道兵第六师(1954年5月～1981年3月)

为加强铁道兵的正规化建设，中国人民志愿军铁道工程第六师1954年4月从朝鲜回国后，于5月在甘肃省天水市奉命改编为“中国人民解放军铁道兵第六师”，隶属铁道兵领导，成为中国人民解放军工程部队性质的技术兵种。1981年3月，根据铁道兵[1980]铁务字第130号命令和铁二指精简整编方案，铁道兵第五师、第六师合并，“中国人民解放军铁道兵第六师”在新疆库尔勒市撤销。