在整個西征的過程中，耶律楚材一直隨軍行動。成吉思汗雖然很器重耶律楚材，但史料並沒記載任命他什麼官銜，估計是類似於怯薛的侍從人員。成吉思汗最初交給他的任務似乎主要是占卜：“汗每出師，必命楚材預卜吉凶。汗亦自灼羊髀骨，用相參驗。”現有史料記載楚材在成吉思汗時期的主要活動和建言，也大多與占卜等事有關。例如成吉思汗西征前祭旗之日，是夏六月，天氣卻降雪三尺，“帝疑之”，楚材說：“玄冥之氣，見於盛夏，克敵之征也。”鼓勵大汗定下出征決心。又如庚辰（1220年）冬大雷，帝複問之。對曰：“回回國（指花剌子模）主當死於野。”後皆應驗。
更具神秘色彩的是角端事件：“甲申（1224年），帝至東（疑為西）印度，駐鐵門關。有一角獸，形如鹿而馬尾，其色綠，作人言，謂侍衛者曰：‘汝主宜早還。’帝以問楚材，對曰：‘此瑞獸也，其名角端，能言四方語，好生惡殺，此天降符以告陛下。陛下天之元子，天下之人皆陛下之子，願承天心，以全民命。’帝即日班師。”（《元史》本傳）由於此說怪誕不經，屠寄《蒙兀兒史記》將它刪掉了。但此事雖為傳聞，時間不合、地點不對或許有之，然蒙古將士未見過犀牛，以為怪獸，成吉思汗聞報，向博學多聞的楚材谘詢，其事則很可能有。至於獸作人言，或為蒙古將士思歸，附會於獸語，楚材亦將計就計，奉勸大汗班師，更在情理之中。總之史書所載傳說之事，誇張、渲染、附會之處本不足為奇，關鍵的問題是楚材針對成吉思汗的迷信思想，善於“以神道設教”，將自己的積極主張用具有濃厚迷信色彩的手法表達出來，勸其接受，顯示出楚材的聰敏。
當然，作為一個深受儒家思想熏陶，知識豐富，胸懷大誌的青年，耶律楚材不會滿足於僅僅依靠占卜、巫術之類去影響大汗。他時時希望能夠真正施展自己的政治才能，幫助成吉思汗治理國家。史載西夏人常八斤以善造弓箭見之於帝，“每自矜曰：‘國家方用武，耶律儒者何用？’楚材曰：‘治弓尚需用弓匠，為天下者豈可不用治天下匠耶？’帝聞之甚喜，日見親用。”同時，楚材也利用成吉思汗對他的信任，做了不少好事；如丙戌（1226年）冬，蒙古軍攻下靈武，諸將爭奪子女金帛，楚材獨收遺書及大黃等藥材。不久士卒大疫，楚材用大黃治病，救人甚多。
此外，耶律楚材還為成吉思汗掌管文書。當時，蒙古立國未久，諸事草創，各種規章製度正在逐步建立，戰爭仍在激烈進行，來往文書甚多。由於民族複雜，文書大約有蒙文、漢文、波斯文三個係統。蒙文由怯烈哥主管，波斯文由鎮海主管，漢文即由耶律楚材主管。由於當時蒙古貴族多不識字，因而掌管文書的作用不應低估，他們常常可以利用方便的條件，按照自己的私意處理問題，具有一定的權勢。當時不少中原地區的官僚地主都慕名而來，通過耶律楚材向成吉思汗鑽營。耶律楚材是一個有高度封建文化修養的儒生，為人正直，把“行道澤民”作為自己的“素誌”；雖然他自稱“備員翰墨，軍國之事，非所預議”，但必要時向成吉思汗提醒什麼事該作，什麼事不該作，還是非常方便的。肯定他會利用這個職務做一些有益的工作。
耶律楚材還主持了在塔剌思城屯田的工作。這個地方是古代中亞的名城，位於塔刺思河畔，為中西交通的要道。蒙古軍攻占此城後，即以此為基地繼續西進，陸續攻占了訛打剌城（阿裏斯河注入錫爾河處附近），蒲華城（布哈拉）。最後攻占了花剌子模的首都尋思幹（撒馬耳幹）。尋思幹在西遼時稱為河中府，當地土地肥饒，經濟繁榮，多豪民。蒙古軍入城之後，俘虜了三萬名工匠，送往蒙古分賞諸將為奴。同時，又遷徙了四百多名豪民子弟到塔剌思城屯田。這是一個削弱新征服地區反抗力量的措施，對恢複發展後方的社會經濟也有好處。耶律楚材奉命主持這一工作。大概這是他的主意。這對蒙古軍事貴族隻知道打仗，掠奪財富，轉變到恢複發展社會經濟，是很有意義的。