至正十年，成遵升迁中书右司郎中。当时刑部里被关押，没有结案的有数百之多，成遵与他的同僚们，分别加以审查，共同研究案件的轻重，给予了相应的处理，没过多久，都全部处理完毕。当时有朝廷命令，向朝廷交纳粮食就能升官，其中有许多作奸犯科的罪人，都浑水摸鱼，缴纳粮食获得七品官职，受到仇家的检举揭发，有人提出既然交纳了粮食就能做官，其他罪过可以不必追究。
成遵却反对说：“卖官鬻爵，已经不是什么好事，况且卖官给奸淫的人，以后怎么能治理国家呢？必须剥夺任命，罢免他们的官职，返还他们的粮食，制定成法令，才能得以施行。”朝廷里的省臣听从他的报告。成遵后来被任命为工部尚书。最初，黄河白茅段决口，郓城、济宁等地被淹没。有人提出应当修筑堤坝，以遏制水势，有人提出必疏通南河，流入故道以减轻水势，而漕运使贾鲁却说：“必疏通南河，堵塞北河，让黄河流入故道。工程不大，却成效显著。”朝廷里对此争论不休，难以决定。
朝廷命令成遵与大司农秃鲁组成联合考察组，视察黄河，提出疏通和堵塞黄河的可性方案，上报朝廷审批。至正十一年春。他们从济宁、曹、濮、汴梁、大名，行程数千里，他们不辞辛劳，挖掘水井以量地质土层的深浅。测量河岸以研究水势的缓急，他查阅各历史典籍，广泛采集民众舆论观点，最后提出河道的故道，不可恢复，提出八种理由。
元朝丞相脱脱已经先听从了贾鲁的建议。等到成遵与秃鲁实地考察加京后，意图主张不能恢复过去的河道，他们说：“济宁、曹、郓等地，近年来天灾人祸不断，庄稼大面积歉收，粮食大量减产，民众饥饿贫困，民不聊生，如果有人趁机作乱，在这里聚集二十万人。就会产生巨大的动乱，后果一定比河患还要严重。”
脱脱听了他们的话，十分愤怒，责问他们说：“你们说那里的民众真的要造反吗？”他们从早晨的辰时，直到下午的酉时，辨论最终都没有达成结果。第二天。朝廷最高元首皇帝对成遵说：“治理黄河的工程，丞相已经作出了决定，而且有人出来承担责任，你就留一点口水养牙齿吧，不必再多说什么，不要影响治理工程的开展。”成遵却固执己见，回答说：“我腕可断，血可流，我的意见坚决不能改变。”于是朝廷就任命他为大都河间等处都转运盐使。最初的时候，汝、汴二郡富商很多。是运司的强大支柱，当时，汝宁盗贼蜂拥而起，就像猛烈的烽火燃烧起来，迅速蔓延。侵犯了汴境，朝廷急忙调兵前往那里讨伐，收集船只运送军粮，支援战争前线，导致商舟不通，商贩迅速灭绝。成遵随机应变，处理有当，保证了国家粮食和税收的征集。
至正十四年，朝廷调成遵任武昌路总管。武昌自十二年被当地的流寇所摧毁，在敌军中死亡的民众人达到十分之六七，在长江上下，各路强盗蜂拥而起，他们人多势众，阻断交通，当地米价飞涨，人心遑遑。成遵把当地的动荡不安的情况，报告了中央省臣，划拨军费储备钞票数万锭，募集勇敢士兵，组成敢死队，制造武器和船只，加强地方防卫，保证地方安宁，朝廷军队一边作战，一边推进，发放粮食救济太平、中兴的民众，许多民众才得以生存下来。当时中央的省臣率领进行大军，行军打仗，成遵摄全权指挥军事行动，当时的地方省府中，只有成遵一人。成遵严密部署哨兵警戒，加强城门防卫，召集地方民众参军，获得了五千多人，他设立万夫长四人，负责守卫四道城门，所以防卫严密，号令严肃，赏罚分明，纪律严明，作战能力很强。那些盗贼的船只在长江中往来，始终不敢近岸边，对城市发起攻击，城市因此得以安宁。
元朝随想脱脱当时还暗自高兴，以为治理黄河成功，天下就会平安无事。让他没有想到的是，黄河刚刚得到治理，天下就剧烈动荡起来，眼看着元朝一百几十年的江山，一百几十年，都是从元太祖成吉思汗开国起计算的。竟然从此土崩瓦解，化作子虚乌有。说来也很奇怪，元朝灭亡的应兆，偏偏是从贾鲁治河开始。
过去在至正十年间，河南北方已经有童谣说：“石人一只眼，挑动黄河天下反！”流传很广，尽人皆知，当时的人们听说，对此大都疑惑不解，到了朝廷委派贾鲁治河的时候，监督工程的河工开凿黄陵冈，果然从地下挖掘出一个石人，眼睛只有一只，就像是刚刚睁开的样子，工人们看见后，大吃一惊，相互争相传说，惊恐不安。情况立即报告了贾鲁，贾鲁亲自去察看那个石人，也不禁暗暗称奇。只得故作镇定，毫不动容，命令工人用锄头击碎了石人，搬开了事。完成治理工程后，他就返回了京城，也没有再提起石人的事，偏偏汝、颍动荡剧烈，应验了当时的童谣。
当时朝廷收集到了全国各地的情报，进行梳理后，发现有几股招势力最为强大，实在难以收拾。
一是颍州人刘福通奉韩山童子林儿为主，在颍州发起叛乱。韩山童是栾城人，他的祖父采用白莲会烧香的手段，迷惑民众，后来被朝廷迁徙到永平，他把教主传给了韩山童，大肆散布谣言，说天下大乱，弥勒佛出世，河南及江淮间的愚昧民众，都信以为真。颍州人刘福通，与他的党羽杜遵道、罗文素、盛文郁、王显忠、韩咬儿等人，又谎称山童是宋徽宗的后裔，当为中国的主人，聚集民众设下祭坛，发出誓言，在京城周围发起叛乱，地方官员看到天下动荡，惊惶失措，立即召集兵员，对叛军进行大肆搜捕，擒住了韩山童，刘福通看见势头不对，立即携带韩山童的妻子杨氏，以他的儿子韩林儿，逃到河南，号召强盗党羽，达到数万人，都以红巾为号，号称红巾强盗，横行河南，势力强大，锐不可挡。
二是萧县人李二，在徐州发动叛乱。李二也是一个无赖之徒，曾经以烧香为名，聚集众人，联结同党赵均用、彭早住等人，攻陷了徐州，作为根据地，在那里盘踞下来。李二绰号芝麻李。
三是罗田人徐寿辉，在蕲水发动叛乱。徐寿辉原来是一偿还商人，以贩布匹为生。有僧人彭莹玉，喜欢吹捧妖异事件，他看见寿辉以状貌魁奇，称他有宝贵相，就同党邹普胜、倪文俊等，尊敬徐寿辉为主人，攻陷了蕲水及黄州路，以红巾为作为标志，当时人们也称他们为红军。
除了这三路强盗作乱，骚扰河南及江淮间的匪徒，当时被称为汝、颍妖寇。另外还有在这之前，起兵向朝廷发难的方国珍，后时响应的郭子兴、张士诚，也鼎鼎有名，影响很大，当时的民众都知道他们的来历。
一是台州人方国珍作乱，在至正八年十一月间。方国珍过去以贩盐为生，航海为业。当时有蔡乱头为海盗，经朝廷追捕，就向朝廷报告说，方国珍也在暗中勾结匪徒强盗，方国珍很为恐惧，就航海的过程中，发动叛乱，劫掠漕运，活捉了江、浙参政朵儿只班，胁迫朝廷使者报告朝廷，赦免他的罪过，授予他的官职。朝廷下达诏令授方国珍为定海尉，方国珍却嫌官卑禄微，不肯接受朝廷命令，不久就进攻温州，强盗猖獗，愈演愈烈。
二是定远人郭子兴发动叛乱，在至正十二年二月期间，郭子兴年少时就有侠义之气，喜欢与壮士结交，他看见汝、颍等地起兵叛乱，就与他同党孙德崖等人，起兵叛乱，自称元帅，攻陷了濠州。
三是泰州人张士诚发动的叛乱，在至正十三年三月年间。张士诚与他的弟弟张士德、张士信等人，都以操舟运盐为业，当时富豪人家，都把他们看成是下贱的工人，动不动就侮弄他们，当时的弓箭首领邱义，感到极为窘迫和耻辱。张士诚大怒，率领十八位壮士，杀死了邱义及其他富豪之家；招集盐丁，占据了泰州。又攻陷了高邮，杀死了知府李齐，自称为诚王。
当时的朝廷局势动荡不安，强盗蜂拥而起，愈演愈烈，战鼓咚咚，强盗叛乱的警报，像雪片一样接连不断地飞报元朝廷，元顺帝妥欢帖睦尔接到情报，大为惊恐，连忙调发兵马，兵分多路，立即出征。元朝治黄河遍地燃烽火，元朝从此刀光剑影，血雨腥风，没完没了，血战沙场，敲响了元朝灭亡的丧钟。