據乾隆十七年所立石碑記載，法海寺建於唐，《通渭縣誌》確定為唐代建築。老一輩人說，大殿後牆正中懸一平幅匾，上面記：“唐朝尉遲敬德，在此設廠牧馬”，因水草豐盛，不多幾年，馬群迅速增長，唐王得知後，十分歡喜，命在此地建修佛祖如來寺廟。選址北山落腳一圓嘴上，嘴下清水緩流，如湖似海，定寺名為法海，隨其寺名，定川名為神泊川，山中有一泰山廟，後靠之山定名為泰山墩，山川得名，都以神為酋。

1957年，廟後山腰處出土古墓一座，用磚修成，裡有兩磚書墓誌：是呂博野之子呂弘賓之墓，子孫都是刺史。時間為久視二年正月十七日（武則天年號），據傳說記載和出土文物結合考察，廟建於大唐或許不訛。

清康熙五十七年（1718年），地震山崩，廟宇全毀，山川錯位，北水南移，風景破壞。雍正十年（1732年）名士高成滄、王師文等人籌資重建，新選地泰山墩下老牛嘴落腳的四瓶地方的一瓶之上，耗時12年。到乾隆八年（1743年）竣工，法僧照秀在乾隆十七年（1725年）立石碑以記其事。又成為一隅之寶梵。同治七年三月，叛回馬化龍和河州馬佔高部眾，在寺住棲月餘，大鐘打破，花木損半。臨走時，大殿、鐘樓、獻殿、僧房等都被放火燒光。延至光緒十年（1884年）下王家名士王繼綱和王瑗等人，倡眾再次修建大殿。光緒三十一年（1905年）王璪等人修復了毀而未修的其它廟宇。

廟內一柏參天，一石座地，有如、聖、閻泰、娘娘、韋陀殿森嚴。傳言：有一人在蘭州煙房做工，談到法海寺勝景，其中一人聽得入迷，問有多少廟宇，答：僧用吃飯鍋四十一頂，其僧不知多少，廟有一百一十六座。那人驚歎曰：勝過五泉山矣。那人出於好奇，專程來到這裡觀賞，一見後雖然景色佳麗，遠沒有聽說的那樣壯觀，不過巨柏一棵，石碑一甬，六座廟宇，下有四石頂一鍋而已，還有啥多的呢？答：對了，怎麼不是一柏一石六座廟呢？四石一頂鍋麼？廟宇座落在北山腳一瓶形坪上，一進三門，第一進，亭子式四坡水八字粉牆，中間三開戶山門，進門過土築橋而上至戲樓場中，戲樓背山門而向北，出角架鬥，飛簷走獸，畫棟雕樑，粉牆畫壁；第二門是牌房，牌房兩側有官房兩座，接待官家看戲所用。進門是僧院，東西僧房兩排是僧人住房；第三門是鐘鼓樓門，又高出僧院一臺，大鐘懸掛高層，進門迎面關帝廟，左側泰山廟。

繞關帝廟再進，成了四合院，四廟對面，正殿釋迦如來佛，東側子孫聖母，西側五閻君，南韋陀佛，其塑像多不能述，只大殿能知名的是一佛二菩薩，立班站帥的、懸塑傳列的、不知多少，各廟都存與本神有關的壁畫，關帝廟上還畫有長安八景。全屋高脊扣瓦，飛簷走獸，雕樑畫棟。人若一遊，不覺肅然。記事牌不知有多少。記事牌1958年辦食堂全做了鍋蓋，誰都沒有記下上面寫的是什麼，只記得大殿簷柱上鐫刻對聯一幅：“川漾神泊三枝柳自波上出，寺名法海九品蓮本海中來”。其它聯語還有：“巨柏參天立院看佛殿，老椿雄偉站崗把山門”。“寺後槐林遍山坡，殿前紫荊倒掛鍾”。“滿院桃杏千柏柳，山門並立二老椿。”

時至民國九年（1920年）又一次地震，鐘樓、戲樓又塌，各廟被毀，雖經高爵、王正堂等人組織修補，但原貌未復。民國二十年（1931年）戲樓建起。三十一年（1942年）鐘鼓樓修成。

每年農曆三月二十八日為定期廟會，參觀遊賞做生意的，每天數千人。佛事範圍達到四十八莊口，一千一百多戶，六千多人（屬秦安、通渭兩縣）。文化大革命期間，廟宇折除建了學校，戲樓修了公社倉庫，樹木只剩十棵柏樹。廟內現存大柏樹一棵，小松樹九棵。大殿一座，改用教室後，因失修成危房而放棄。鐘鼓樓已維修。1982年建起了戲樓。石碑一面。廟址為學校所佔用。

1987年後又進行了修復。2003年由社長馮守忠、副社長王宗武組織重建了泰山閣。有人這樣贊大殿內景：“淨鞭三下響，文武兩班齊。如來菩薩和情面善。十八羅漢身披著重鎧鐵甲，手握著利劍鋼叉，頭戴金盔，閃閃耀紅霞，跨駿馬，凌凌生海嘯。雄糾糾兮，英風直奮，威凜凜兮，殺氣橫加，一心要與他人報冤家。”向上觀：“山色晴嵐景物佳，暖烘回雁起平沙；東邊漸覺花供眼，南邊早已草吐芽。堤上嫩柳盡藏鴉，尋芳信步到山家；隴上幾樹疏梅落，紅杏枝頭未著花。”看佛前：“金爐不息千年火，玉盞長明萬載燈。”