为使这一工程早日完工投入使用，采取依靠群众、依靠旗县等方法进行施工，工人出工基本依照受益比例分配，平均负担。
工程西起巴彦淖尔盟磴口县三盛公黄河铁桥以下七百米的引水枢纽，东至土默特旗大城西，全长三百三十四点四七千米。渠线平行的土屑多为沙性土壤，总的看来开挖是比较容易的。因1958年施工时雨水比较多，地下水位还相当高，一般在一点五米以上，且有部分地区地面有积水，给开工初期造成困难。以后随着地下水位下降，泥水方比较多，解决排水就成为大问题。
1958年在进行冬季施工时，五个旗县，一万九千多名工人，一百多名干部，在两个半月中完成土方二百零五万立方米，占全盟总任务的百分之四十。全段五个旗县各组织了一个总干渠野战团（指挥部），下设后勤、政治处，并以公社组成施工单位，列为二十五个营（大队）、一百一十七个连（小队）、四百三十四个排、一千三百四十一个班，分别由公社和农场负责干部担任指挥员。指挥部建立党总支（党委），营连设有支部（总支），再下设党支部。
1958年八九月，在农村劳力紧张的情况下，抽调劳力修建工人宿舍、库房、伙房、办公室等。经过一个多月，建起近一万平方米的施工用房，分布在七百里的总干渠旁边，可容纳二万余人。但是，由于时间、劳力、物资不足，都是简易工棚，租借民间住房七间。所建简易工棚需整修，个别还需新建，以免春暖土化发生问题。
各旗县施工干部八十四人，全段共有工人近二万人，包括勤杂工八百九十二人。
从工人素质看，年幼、年老、身有疾病的人很多，这也是造成工效不高的一个原因。参加总干渠妇女有八十三人，具体参加挖土的为六十五人，即五原县巴彦特拉“穆桂英”连，妇女驾车推土毫不比男工人逊色，劳动热情高，纪律好。
1958年施工时，因安全防护措施较差，共发生伤亡、工伤火灾六十多起，严重的有两起。
在1958年的施工中，工地上开展了社会主义、共产主义教育。工人初到工地存在晚出工、早回家的现象。工地尽力解决工人生活，个别工人没有被子、皮棉衣的都给换上新的；部分没有鞋帽的工地上想办法发给，一般都给买了手套、垫肩；保证工人每月能吃到一至两斤肉、两次白面。公社慰问，开展评比奖励，极大地鼓励了工人。
工地上总结出干部参加劳动、开好现场观摩会、评比比赛是施好工的较好方法。干部分片包干，长期深入工地，并规定连长和工人同出、同归、同劳动。营长经常深入工区，团部干部要参加一半以上的具体劳动，发给劳动记工册。工人说，干部参了战，土方翻一番。
工地上工具缺乏，于是大办工厂。抽调铁木翻砂工人三百四十五人，在工地大办铁木加工厂，边制造、边施工。没铁发动群众献铁，没木材就地取材，就地加工。到1959年3月31日竣工时，制造出手推车五千五百八十四辆，其中，包括磙珠推车、独轮木车、单双轮胶车、双木轮车、铁双轮车、自行车、独轮车等十五种。其中，五原县单人推的独轮胶车、前旗“飞轮”式车子格外好用。另有冰托二十五个、空中运土器一架、木轨车四辆；前旗的木轨车效率最高，每人每日可运土二十公方，且造价不算高，每辆二百余元，使用方便省力，工人满意。工人们编出了这样的顺口溜：
总干渠任务大，箩头担土太慢啦！
一天担土一方多，跑得腰酸肩膀疼。
自从实现车子化，工作效率一天比一天大！
工人创造的挖土方法包括挖楞碱打冻、裁块揭冻皮、盖土保温、深翻保温、倒拉牛、大揭盖、一竿子插到底等十余种。这些方法不同程度地克服了钢铁缺乏、破冻工具不足的困难，增强了工人的信心。
施工中，工地想尽各种办法开展文娱活动，如打篮球、下象棋、玩扑克、听音乐、搞群众剧团、组织看电影等。同时建立了党团学校、“红专”学校、业余学校，以政治、技术、文化、时事等为内容，组织工人利用业余时间开展扫盲学习。所有工人经常进行军事化训练，从而活跃了工区氛围，安定了工人情绪。此外，工地还一并组织钉鞋工人、理发工人和一部分女同志给工人拆冼、缝补衣服，工人的顾虑消除了，工人用这样的顺口溜描写工区生活：
从前二人拉，现在一人推。
老人齐出征，病情消减净。
生活改善好，心志一天比一天高。
起得早来睡得晚，定向冻方来宣战。
鼓足干劲加油干，力争上游当模范。
大家学文化，轮班都参战。
时刻莫误事，每天五个字。
能文又能武，人人摘盲帽。
上阵带书包，休息常写画。
大家学文化，土方算个啥！
1958年施工，在进度方面，计划五千余土方，实际完成二百余方，占计划任务的百分之四十。工效未达到定额，加上工具不足，有的工地断炊。
在计划总干渠第二次开工时，需要保证工地上粮食和燃料够二十至三十天食用。煤炭于4月份备妥，工地要组织人员对工人工棚进行一次性整修检查，为第二次开工作好准备。
1959年巴彦淖尔盟按照缩窄断面组织施工
总干渠施工指挥部鉴于1958年的施工情况进行了认真总结，认为这项工程规划设计的规模要从远景发展考虑，即总干渠完成任务后要求发展灌溉面积一千四百多万亩，比目前的灌溉面积大一倍多；同时还要求各节制闸发电和总干渠通航，因而需求流量达五百六十五立方米每秒。
