伯顏祖父稱海，為領軍百戶，從憲宗攻宋合州釣魚山死；父謹隻兒，仁宗時總領太後興聖宮宿衛。伯顏年十五，成宗命侍皇侄海山。大德三年（1299年）至大德十一年（1307年），從海山出鎮北邊，與西北叛王海都、都哇戰，屢立戰功。
大德十一年，成宗死，海山率部南還爭位，大會諸王駙馬於和林，賜伯顏號“拔都兒”。
海山即位，是為元武宗，授伯顏吏部尚書，不久改任尚服院使，又任禦史中丞。至大二年（1309年）11月，任尚書平章政事，特賜蛟龍虎符，領右衛阿速親軍都指揮使司達魯花赤。
延祐三年（1316年），元仁宗命伯顏為周王（武宗子和世王束）府常侍。其後曆任江南行台禦史中丞、禦史大夫，江浙行省平章政事，陝西行台禦史大夫等職。至治二年（1322年），複任南台禦史大夫。
泰定二年（1325年），又任江西行省平章政事。三年，任河南行省平章政事，佩虎符，節製江淮諸軍。
致和元年（1328年）7月，泰定帝死於上都，武宗舊屬燕鐵木兒任僉樞密院事留守大都，謀立武宗子為帝，聯結同黨發動政變，拘殺異己，嚴控樞密諸要害，遣同黨明裏董阿等馳乘驛迎武宗次子懷王圖帖睦爾於江陵，並命以其謀密告伯顏，使選兵以備扈從。伯顏立即響應，籌集糧餉費用，征發民丁，增置驛馬，補城浚濠，修戰守之具，選募驍勇士五千遣往護衛懷王北行。同僚平章曲烈等持異議，參政脫烈台謀刺伯顏，都被伯顏處死。懷王至汴梁，伯顏勸請即速北上大都即位，並親自披堅執銳，率軍護送。同年九月，懷王即位於大都，是為元文宗。伯顏以功特加銀青榮祿大夫，仍領宿衛，尋加太尉，進開府儀同三司、錄軍國重事、禦史大夫、中政院使。天曆二年（1329年）1月，拜太保，加忠翊侍衛親軍都指揮使。元明宗即位，任中書左丞相。明宗暴死，文宗嗣位，加伯顏儲政院使。三年1月，任知樞密院事。至順元年（1330年），文宗以伯顏功大，特令凡飲宴比照諸宗王賜“喝盞”之禮，並賜怯薛歹百人，蔑兒乞百人，阿速百人為其宿衛，又命尚世祖闊闊出太子女孫卜顏的斤。二年8月，進封浚寧王，並追封其先三世為王。三年，詔建伯顏生祠於涿州、汴梁，立碑記其擁立之功。
8月，文宗死，同受顧命，立明宗次子，是為元寧宗；拜太傅，加徽政使。不久寧宗死，複依文宗皇後意，將明宗長子妥懽帖睦爾從靜江迎入京。自文宗即位以來，朝廷大權一直掌握在右丞相燕鐵木兒手中，伯顏地位雖僅居其次，但在實際國務中作用不大。次年（1333年），燕鐵木兒死，妥懽帖睦爾（元順帝）即帝位，伯顏以翊戴之功拜中書右丞相、上柱國，監修國史。元統二年，進太師、奎章閣大學士，領太史院，兼領司天監、威武、阿速諸衛。11月，進封秦王，繼領太禧宗禋院、中政院、宣政院、隆祥使司、宮相諸內府，總領蒙古、欽察、斡羅思諸衛親軍都指揮使。
年幼的元順帝根本不懂治國安邦，隻知同遊玩嬉戲，朝中大權全由伯顏和燕鐵木兒兩大家族把持。
伯顏曾被授予中書右丞相的頭銜，燕鐵木兒的弟弟撒敦擔任中書左丞相，伯顏的弟弟馬劄兒台與燕鐵木兒的兒子唐其勢並為禦史大夫：文宗在位時期，伯顏的權勢與威望遠遠比不上燕鐵木兒，而今登上中書右丞相寶座，權勢躍居燕鐵木兒家族之上。
對此，唐其勢憤憤不平地說：“天下本是我家的天下，伯顏是什麼人？竟然官職比我還高！”唐其勢幾次想刺殺伯顏，終未得手。伯顏則不露聲色，靜觀事態的發展，暗中卻在尋找時機除去這個死對頭。
順帝至元元年（1335年），撒敦死去，唐其勢晉升為中書左丞相。他見小皇帝越來越寵信伯顏。便抓緊行動，暗地裏與他叔叔答裏、弟弟塔剌晦和宗王晃火帖木兒密謀策劃，決定發動宮廷政變，廢黜元順帝，另立文宗的兒子燕鐵占思為帝。