王維任右拾遺後，隨玄宗居東都。開元二十四年（736）冬十月，隨玄宗還長安。第二年三月，王維參加了當時著名的賢相良臣的一次集會，與會的有蕭嵩、裴耀卿、張九齡、韓休、杜暹、王邱等人。王維寫了《暮春太師左右丞相諸公於韋氏逍遙穀宴集序》，文中流露出他以諫官身份得以參與盛會的喜悅之情。然而好景不長。由於張九齡屢次得罪玄宗，加上李林甫誣陷，這次宴會以後一個月，張九齡就被貶為荊州長史，口蜜腹劍的李林甫執掌了朝政。王維情緒沮喪，他作為張九齡的舊人，置身在李林甫專權的險惡政治環境中，真如履冰臨淵。《贈從弟司庫員外絿》詩中的“既寡遂性歡，恐招負時累”，就透露出他內心的矛盾和隱憂。他還寫了《寄荊州張丞相》：“所思竟何在？悵望深荊門。舉世無相識，終身思舊恩。方將與農圃，藝植老丘園。”訴說對張九齡的思念和知遇之感，流露了世無知音、不如及時退隱之意。
然而事實上王維並沒有馬上歸隱。這年秋天，他受命以監察禦史身份出使塞上，到涼州宣慰守邊將士，並被留在河西節度副使崔希逸幕下任節度判官，在那兒生活了將近一年，寫了一些有名的邊塞詩。開元二十六年五月，崔希逸改任河南尹，王維也自河西返回長安，仍官監察禦史。
開元二十八年（740），王維年四十，遷殿中侍禦史。這年秋天，他被派赴嶺南，主持當地選拔地方官的事務。他從長安出發，經過襄陽、郢州、夏口到了嶺南桂州治所臨桂。一路上，寫了《漢江臨泛》、《哭孟浩然》等詩。開元二十九年春，他離開桂州，曆湖湘、抵大江，沿江東下。經九江時，他登廬山遊辨覺寺，寫了《登辨覺寺》詩。又過潤州，到瓦官寺拜謁璿上人，寫了《謁璿上人》詩並序。然後，再循邗溝、汴水、黃河北歸秦中。
天寶元年（742），王維轉左補闕。以後，又屢遷侍禦史、庫部員外郎、庫部郎中等職。但是，目睹朝政的黑暗腐敗，他深深感到過去的開明政治已經消失。他對李林甫一夥是不滿的。《重酬苑郎中》說：“仙郎有意憐同舍，丞相無私斷掃門。揚子解嘲徒自遣，馮唐已老複何論。”便表露了內心的牢騷。《冬日遊覽》中的“雞鳴鹹陽中，冠蓋相追逐。丞相過列侯，群公餞光祿”等詩句，對李林甫一夥的烜赫權勢還有所諷刺。他是不願意諂媚自進、同流合汙的。但是，由於他的妥協思想和軟弱性格，他沒有毅然辭官歸隱、同李林甫統治集團徹底決裂，而是采取一種半官半隱、亦官亦隱的方式，得過且過。他在開元二十九年（741）返京以後到天寶三載（744）以前的三四年間，曾隱居於長安附近的終南山。以後，又經營了藍田輞川別墅，作為他和母親奉佛修行的隱居之所。當時佛教的宗派很多，其中禪宗分南北二派，即“頓教”與“漸教”。王維同這兩派的禪師都有交往，對佛家各宗派的思想是兼收並蓄的，但更崇尚南宗禪學。佛教哲學的核心思想為“空”，即認為世界上的一切事物，都是虛幻不實的。王維從佛教的義學中所接受的，最重要的就是這種思想。他的許多有關佛教的詩文，如《與胡居士皆病寄此詩兼示學人二首》、《西方變畫讚》、《薦福寺光師房花藥詩序》等，都大談“空”理。詩人一方麵對奸臣專權的黑暗政治感到不滿，另方麵又走上一條與現實妥協、隨俗浮沉的道路。但是這樣做，他內心又是存在矛盾和感到痛苦的。因此便轉向佛教，企圖用佛教的“空”理來消除內心的痛苦，獲得精神上的安慰。盛唐時代，最高統治者大力扶植道教，道教和道家思想廣泛流行，社會上求長生、好神仙的風氣很盛；而且出現了道教和佛教融合的趨勢。王維生當其時，也接受了道教和道家的思想影響。唐玄宗一再製造玄元皇帝（道教教主老子）托夢、顯靈的神話，以此迷惑群眾，維護封建統治。王維即撰《賀玄元皇帝見真容表》、《賀神兵助取石堡城表》等文，加以宣揚、鼓吹。他在《贈東嶽焦煉師》詩中，把當時著名的女道士焦煉師寫成一個身懷異術的仙人，流露了自己的崇敬之情。他自己還曾有過一段學道求仙的經曆。《過太乙觀賈生房》詩裏，記敘他隱居終南山時，曾和賈生一起采藥煉丹，學道求仙。詩人很快便認識到了神仙之事的虛妄，但仍把學道和學佛二者結合起來。“好讀高僧傳，時看辟穀方”（《春日上方即事》），“白法調狂象，玄言問老龍”（《黎拾遺昕裴秀才迪見過秋夜對雨之作》）便是詩人佛、道並修的自白。他將道教的守靜去欲、安心坐忘、知止守分等理論和修煉方法，同佛教的修習禪定、色空觀念、隨緣任運等學說融合在一起。在《山中示弟》、《〈璿上人〉詩序》、《能禪師碑》等詩文中，都表現出融合佛道的思想傾向。