早在司南出現之後，人們就把它應用於航海之中了。但因為船身在風浪中顛簸和搖蕩，司南的指向效果很不理想。即使是指南魚和指南龜，以及沈括概括出的幾種指南針，也不能很好地解決這個問題。羅盤的出現從根本上改變了這種狀況。
宋代在我國曆史上是一個非常重要的時期，不僅經濟、政治的發展出現了許多新的特點，而且文化領域尤其是各種傳統的科學技術也出現了空前繁榮的景象，包括指南針在內的“四大發明”在這個時期也都有了一個飛躍性的發展。而與指南針直接相關的航海事業在此時當然也得到了前所未有的發展。中國龐大的商船隊不僅航行在南洋一帶，而且穿過馬六甲海峽，橫渡印度洋，與阿拉伯和東非國家發生了頻繁的交往。顯然，沒有指南針，這些都是辦不到的。
航海事業在我國確有悠久的曆史，至遲到春秋時就已有了航海事業的初步發展。最初在海上航行隻靠天文導航，根據日月或其他星宿的位置辨認方向，直到東晉時也還是這樣。當時中國的高僧法顯由印度乘船回國，他定的《佛國記》一書就說，在海上航行，夜裏依靠觀星，每逢風雨晦冥、暗無天日、星月隱匿的時候，就隻好停下航船，等待天氣放晴。唐代也有較好的航海事業，但那時靠什麼導航，卻沒有見到詳細的記載。
到了北宋，情況有了根本改觀。北宋末年人朱在他於1119年寫的《萍明可談》中寫道：“舟師識地理，夜則觀星，晝則觀日，陰晦則觀指南針。”這裏記載的是北宋元符到崇寧年間（1098～1106）的事情，這不僅在中國，而且在世界航海史上都是在航海中使用指南針的最早記錄。北宋宣和五年（1123），徐競奉命由海路出使朝鮮，回國後在朱成書的20年後寫成《宣和奉使高麗圖經》一書，就記載了船上使用指南針的情形：“惟視星鬥前邁，若晦冥則用指南浮針，以揆南北。”書中還說，指南針分別在船頭和船尾各放一個，以共同辨識方向。前麵也曾引述吳自牧對南宋人使用指南針導航的情況。顯然，這時的指南針已經開始在海上為人們的現實生活服務，而不再是方士們手中看風水的工具了。
元代的航海事業較宋代有更大的發展，指南針也在長期使用中不斷完善，成為航海中最為重要的指向儀器。不論陰天還是晴天，都使用指南針來導航。人們由於航海經驗的不斷積累和豐富，還編製出了羅盤針路，即航行到什麼地方，采用什麼針位，一路航線都標記得非常清晰。元朝的航海典籍《海道經》和《大元海運記》，都有許多羅盤針路的記載。明代時，鄭和七次下西洋，給後人留下的《鄭和航海圖》，就詳細記載著鄭和航海時的羅盤針路。還在元代的1281年，中國航海商船的船長鄭震就率領他的海船從泉州載著使臣出國遠航，經過三個月時間到達斯裏蘭卡。當時的沿海航運也十分發達，還開辟了南洋航線和北洋航線，曾把江浙一帶的米糧源源運往大都（今北京）。可見，指南針的應用及羅盤針路的出現，使中國古人獲得了全天候航海的能力，到這個時候，人類才算第一次真正得到了在茫茫大海上晝夜航行的自由。
航海事業的發展確實得益於指南針的發明和應用。因此，宋代以後，大量的中國船隻越出近海，乘千裏長風，破萬裏濤浪，晝夜星馳在南洋和印度洋的驚濤駭浪之間，從而大大促進了中外經濟和文化交流。
指南針的西傳
在宋元時期，由於中國與阿拉伯國家的交往十分頻繁，我國的指南針大約在1180年左右經海路傳入阿拉伯，接著又由阿拉伯傳向歐洲。
這個時期，阿拉伯商人對乘坐中國船隻遠航旅遊、經商情有獨鍾，因為中國的船隻不僅容量大，而且非常平穩，整個旅程能夠過得比較舒適和快活。當時，有很多阿拉伯人在泉州、廣州等海港城市居住下來，他們對我國指南針的發展和使用情況也很熟悉。阿拉伯人在很長一段時期裏是中國與歐洲進行貿易和文化交流的中介，所以，指南針就很自然地由阿拉伯人傳到了歐洲。
著名的英國科技史專家李約瑟博士在七大卷的《中國科學技術史》的巨著中，明確指出，羅盤針用於航海，西方大約比中國落後了兩個世紀。這一論斷是有充分根據的。因為到13世紀初期，歐洲人才在一些書裏開始提到指南針在航海上的應用。
由於有了指南針，歐洲人才消除了對海洋的神秘感和恐懼感，從而自15世紀以來，掀起了一浪高過一浪的航海熱潮，不僅導致了世界史上著名的“地理大發現”，而且也使資本主義的資本原始積累在世界範圍內迅猛展開，從而在三四個世紀之內就建立起了符合資本主義發展需要的世界市場，進而將人類的曆史由區域的、民族的曆史轉變成全球的、世界的曆史。
在15世紀中期，土耳其蘇丹穆罕默德的15萬大軍和360艘左右的戰船攻陷了東羅馬帝國首都君士坦丁堡。強大的奧斯曼帝國牢牢控製著東地中海，在意大利東方和非洲的貿易線上樹起了層層高高的壁壘，這嚴重阻斷了東方通向西方的陸上商路，極大地阻礙了歐洲經濟的發展。