指南針是利用磁鐵在地球磁場中的南北指極性而製成的一種指向儀器，是我國古代科學技術的四大發明之一。然而，關於它的“身世”，卻存在著不解之謎。我國是最早發現磁鐵指極性的國家。早在戰國時期，就利用磁鐵的指極性發明了指南儀器——司南。《韓非子·有度篇》裡有“夫人臣侵其主也，如地形焉，即漸以往，使人主失其端，東西易向，而不自知。故先王立司南，以端朝夕”的話，“端朝夕”就是正四方的意思。

《鬼谷子·謀篇）裡也記載說，鄭國的人到遠處去採玉，就帶了司南去，以便不迷失方向。司南是用天然磁石琢磨成的，樣子像勺，圓底，置於平滑的刻有二十四個方位的“地盤”上，其勺柄能指南。東漢的王充，在他的《論衡·是應篇》中曾說：“司南之杓，投之於地，其指南”。由此可見，司南是最早的磁性指南儀器，被視為指南針的祖先。這是其一。然而，有學者認為，天然磁石磁性不強，在琢製成司南的過程中，容易因打擊、受熱而失磁，加之它與地盤接觸轉動磨擦的阻力比較大，難以達到預期的指南效果。同時，當時的人很難定出磁石的南北極，如不按南北極方向制勺，則勺縱有磁性也不會指南。為什麼要製成勺形。而不能製得更簡單些呢？

於是，就有了第二種觀點——指南魚是指南針的前身。持此觀點的學者認為，目前發現的關於磁性指南儀器的最早明確記載是北宋曾公亮著的《武經總要》中的“指南魚”。該書卷十五所記指南魚的製法是：“用薄鐵葉剪裁，長二寸、寬五分，首尾銳如魚形，置炭火中燒之，候通赤，以鐵鈊鈊魚首出火，以尾正對子位，蘸水盆中，沒尾數分則止，以密器收之。”書中的記載雖然寥寥數語，但是卻包含著豐富而合乎科學的道理。其人工磁化方法的創造，在磁學和地磁學的發展史上是一件大事，它是指南針發明的前導。指南魚本是作為陸戰中指示士兵在夜戰中辨別方向的簡單儀器，經改制成指南針後在11世紀用於航海，從此以後，“舟師識地理，夜則觀星，晝則觀日。陰晦則觀指南針”（朱或《萍州可談》）。因此，《武經總要》被看作是研究指南針發明史的重要資料。

上述兩種觀點各有其理，儘管持第一種觀點的人多一些，但無論是司南還是指南魚都只是指南針的前身，並不是其本身確定無疑。目前關於指南針的早期文字記載，主要有以下幾條：北宋仁宗慶曆元年（1041年）《笙原總錄》卷一中有“丙午針”的記載。雖然沒有明確指出是什麼針，但從上下文的字裡行間可以斷定是磁針無疑，說明當時已把磁針與羅經盤配套，作為定向儀器。《夢溪筆談》卷二十四中也明確指出指南針是一方姓人家（風水先生）首先發明和使用的。並且詳細記述了水浮、置指甲上、趾腕唇上和懸絲等四種指南針的裝置方法，以及各種方法的長處和缺陷，使人們對當時的指南針有一清晰的認識。

從上述資料可知，指南針在11世紀時已是常用的定向儀器，有多種裝置方法。如果把指南針的發明時代上溯到10世紀的唐末或五代，也是不無根據的。如王趙卿（約10世紀末）曾留有“虛危之間針路明”的詩句（《古今圖書整合》卷655）；佚名的《九天玄女青囊海角經）（約九百年）中說：“今之象佔，以正針天盤，格龍以縫針地盤。”這裡所說的“針路”、“正針”、“縫針”極有可能就是指南針與羅經盤配套定向的術語。指南針究竟何時發明，其前身又為何物，還有待於進一步挖掘和發現。