1979年6月1日，经国务院批准，“中国土木工程公司”在铁道部援外办公室的基础上正式成立，是我国最早进入国际工程承包市场的四家外经公司之一。

1996年12月，经国家经贸委批准，公司组建集团，更名为“中国土木工程集团公司”；2000年9月，公司与铁道部脱钩，划归中央企业工委直接管理；2003年初，公司由国务院国资委直接管理；2003年9月，经国资委批准，公司与中国铁道建筑总公司实施战略重组，整体并入中国铁道建筑总公司；2007年12月，中土集团公司完成改制后的工商登记，名称变更为“中国土木工程集团有限公司”。2014年4月，中铁建中非建设有限公司（以下简称为：中非公司）整体划入中土集团；2014年8月，中非公司恢复设立；2015年7月，中非公司再次并入中土集团。

自上世纪60年代组织援建中国最大的援外项目坦赞铁路开始，公司不断发展壮大，先后成功实施了中国在海外首个高铁项目-土耳其安伊高铁；中国在海外首条中国标准铁路-尼日利亚阿卡铁路；中国在海外首条全产业链铁路-亚吉铁路；西非首条城市轻轨-阿布贾城铁；中国铁路“全产业链”首次输出国门的电气化铁路-亚吉铁路；首条按照中国铁路技术标准修建的现代化铁路-尼铁现代化项目，刷新了当时中国对外承包工程单体合同额最高纪录。