早在堯帝在位的時候，天下就已經常發生水災，給老百姓造成很大損失。堯帝曾經派鯀去治水。鯀采用了到處堵水的方法，結果九年時間過去了，洪水還是沒有堵住，治水事業沒有成功。舜接替堯帝之後，在巡視治水現場時，看到鯀的治水事業勞而無功，便把鯀流放到邊遠的羽山，最後鯀就死在那兒。所有的人都認為舜對鯀的懲罰是正確的，因為鯀無效的治水方法讓老百姓多吃了幾年苦頭。
堯帝逝世之後，舜帝曾經問大臣們：“有誰能夠像堯帝一樣做事完美呢？如果真有這樣的人，應該請他擔任重要職務。”
大臣們推薦道：“鯀的兒子禹，可能成就一番事業。”
舜帝便把禹請來，命令他說：“你去平安水土，希望你能勤勉而出色地完成這個任務，我還會有更重要的職務請你擔當。”
禹趕緊跪拜叩頭，表示自己沒有什麼才能，還向舜帝推薦了契、後稷和高陶。但舜帝再一次命令道：“還不趕快去做你負責的事務，快去治水吧！”
禹為人機敏快捷，吃得起苦。他擁有良好的道德素質，懷有一顆仁愛之心。他的行為能讓人親近，他的言語能使人信服。事實上，禹是一個家庭背景十分顯赫的人物。他的父親是鯀，鯀的父親是顓頊，為五帝之一。而顓頊的父親是昌意，昌意的父親便是軒轅黃帝。可見，禹的出身如此高貴，可他仍然能夠自覺做到這些，是相當難能可貴的。
接受了舜帝交給他的重任之後，禹決心徹底消除水患，發誓不戰勝洪水不回家門。父親因為治水失敗而受到懲罰，他知道必須改變原有的觀念和方法。他帶領部下，翻山越嶺，走遍全國。他利用當時所有能派上用場的儀器設備，勘察地形，確定治理山川的規劃。他決定按照春夏秋冬的季節規律，開發九州土地，疏通九條河道，圍定九處湖泊，測量九條山係。他發現全國的地形是西高東低，而水是往低處流的，因此以硬堵的方法治水，肯定無法奏效。於是，他改變父親硬堵的老一套，采取開挖渠道、疏通河流的方法，依勢利導，把水排入大海。他還親自戴上鬥笠，和老百姓們一起拿著鍬子，開山挖山，修渠疏河。
當時，在黃河中遊橫著一座大山，叫做龍門山（在今山西省河津市西北）。奔流而下的黃河水無法衝破龍門山的阻擋，隻得溢出河道，每年的水災總是特別大，給四周的老百姓造成了很大損失。禹幾次去那兒察看地形，覺得不把龍門山鑿通，就無法讓黃河水暢流。他隨即命令附近的部落首領和貴族，讓他們發動百姓，一起出力，全力開鑿大山。這可是一項大工程。經過好幾年的奮戰，龍門山被鑿開了，黃河水再也不會在此滿溢、肆虐，而是乖乖地往前暢流，一直流向大海。