正當神宗心煩意亂的時候，沈括主動請求出使遼國，繼續談判邊界的領土歸屬問題。他對神宗說：“臣仔細查閱研究了資料，近年來，在我朝與遼國所簽訂的所有條約，準確的邊界應該是以古長城為國界，而遼使所講的黃嵬是位於長城之南30裏的一個名不見經傳的小地方，它理應是我朝的領土。遼人是欺負我朝無人知道黃嵬的準確位置，故意挑釁想發起戰爭。臣請求皇帝準許，讓我出使遼國，憑著三寸不爛之舌跟遼人辯明是非，說清曲直。”說完，沈括就把有關條約的副本拿出來讓神宗過目。宋神宗看過後，喜形於色，不由得長出了一口氣。他對沈括說：“負責談判的大臣們都是酒囊飯袋，談判了幾天，竟然沒有搞清楚黃嵬的來龍去脈，差點兒誤了大事。”於是宋神宗就任命沈括為出使遼國的全權負責大使，去談判黃嵬一帶的歸屬問題。
沈括到遼國之後，遼國的宰相楊益戒親自出麵和他談判邊界的領土歸屬問題。在正式談判之前，沈括就先讓自己的隨員把帶來的條約副本和北方邊界地點的地名、位置等內容背得滾瓜爛熟。在談判中，沈括不露聲色，鎮定自若。在一連幾次的談判中，對於遼人提出的問題，隨員們都能講得頭頭是道，無懈可擊。雙方共談了6次，而沈括和他的隨員們每次都處於上風，所談的內容符合宋遼雙方條約公允的規定，遼國人也找不到任何破綻。遼國的宰相楊益戒惱羞成怒，原形畢露說：“宋朝連這幾裏地大小的土地都不忍割舍，這不是明明想斷絕和大遼的友好關係嗎？”沈括毫不退讓，據理力爭：“軍隊作戰，理直士氣就是旺盛，理曲士氣就是衰退，楊宰相不會不清楚這一點吧？黃嵬雖小，可是條約上明白無誤地寫著應屬大宋，你怎麼能說是我們破壞兩國關係呢？這是你們背棄自己祖先的信義，置以前簽訂的條約於不顧，想強占我大宋的土地，並且不惜以武力相威脅。我想你們以此為借口出兵恐怕不能說是名正言順吧？遼國的老百姓也未必會為了這幾裏大小的土地就願意和大宋朝開戰吧？大宋雖然軟弱，但也未必就怕和你們遼國打仗。”一席話說得那個囂張的宰相楊益戒啞口無言，他看到沈括和他的使團成員們軟硬不吃，就隻好上報遼國皇帝，再另想別的辦法挑起戰爭了。
沈括出使遼國不辱使命，從道義上製止了遼國以領土問題為借口而發動戰爭的企圖，黃嵬最終也沒能成為新的宋遼戰爭的導火線，沈括的出使功不可沒。在出使遼國的路上，沈括繪圖記載了所過地方的山脈河流的情況和當地風俗特點，了解了北方的人心向背，做成《使契丹圖抄》呈報給北宋朝廷，它對日後宋朝處理北方邊境的許多事務起到了一定的作用。
沈括與蘇軾是好朋友，這兩名在曆史上都有傑出貢獻的大家，最終卻分道揚鑣。沈括在其中扮演了不光彩的角色。自古文人相輕，進而相軋相害是常有的事情。皇帝在沈括麵前誇獎蘇東坡，沈括心中產生了一種默默的對比，不想讓蘇東坡的文化地位高於自己，於是檢舉揭發蘇東坡詩中有譏諷朝廷之意。章惇等人便以蘇軾的詩作為證據，指控他“大逆不道”，想置他於死地。一場牽連蘇軾39位親友、100多首詩的大案便因沈括的告密震驚朝野。這就是著名的“烏台詩案”。