北宋太平興國二年（977年），宋太宗即位後的第一次科舉考試結果終於揭曉，一名祖籍山東萊州的年輕舉人高中狀元，他就是呂蒙正。
呂蒙正其實是個官宦子弟，他的父親呂龜圖在前朝擔任起居郎，家中殷實。可呂龜圖有個好色的毛病，除了正妻劉氏之外，還納了不少小妾。女人之間不免爭風吃醋，可能還大打出手，呂龜圖一怒之下把劉氏給休了，還將她和兒子呂蒙正一起趕出家門。而劉氏也很有骨氣，自此不再嫁人，辛苦拉扯呂蒙正長大，並省吃儉用供他讀書。
在如此艱苦的環境下，呂蒙正越發拼命讀書，以便靠自己的能力改變命運。皇天不負有心人，三十三歲的呂蒙正終於金榜題名，高中榜首。作為首屆狀元郎，呂蒙正受到了太宗的親切接見，授任將作監丞、通判升州的職位，還被賞賜了二十萬錢，可謂雙喜臨門。好運還不止於此呢，估計就是這次接見，太宗對呂蒙正的印象特別好，等到呂蒙正任職期滿，立刻就把他調到自己身邊擔任著作郎、直史館，之後平步青雲，於太平興國八年（983年）升任左諫議大夫、參知政事，成為副宰相。
作為一顆政治新星，年輕的呂蒙正在初入朝堂時自然遭到了一些老資格官員的輕視。有個大臣見呂蒙正年輕，輕蔑的說：“這個人也能擔任參政？”呂蒙正卻假裝沒聽見，徑自走過。同事們為呂蒙正鳴不平，詰問那人的姓名，但被呂蒙正制止，並稱一旦知道名字，終生都不會忘記，不如不知道為好，宰相氣量可見一斑。
當時，老一輩的宰相宋琪、李昉因為反對宋太宗與契丹開戰，先後被罷。太宗認為這些老傢伙都目光短淺，與自己的雄才大略格格不入，於是開始起用年輕的後輩。端拱元年（988年），年僅四十四歲的呂蒙正被破格提拔為中書侍郎兼戶部尚書、同平章事、監修國史，成為首輔，從進入仕途到首席宰相僅僅用了十一年時間。
可讓宋太宗沒想到的是，這個呂蒙正雖然是自己一手提拔的，而且外表看起來很厚道，卻比李昉更加敢於挑戰太宗的權威。每次與太宗商議國政，有不公允的地方一定會堅持反對意見，搞得太宗下不了臺，漸漸有了罷免呂蒙正的想法。
淳化二年（991年），呂蒙正的小舅子、右正言宋抗上書言事，惹惱了太宗，太宗趁機以此為藉口將呂蒙正罷相，再次起用李昉為宰相。可是這個李昉也不爭氣，一來年紀大了，精力有限，二來連著家裡死了好幾個親人，於是變得萬念俱灰。淳化四年（993年），李昉向太宗提出辭職，太宗無奈，只得同意，並再次起用呂蒙正為宰相，想著你小子經過上次的挫折，應該會有所收斂了吧。
可事與願違，再次擔任宰相的呂蒙正不僅死性不改，而且更加敢於直言。當時因為太宗同時對契丹和西夏用兵，軍費開支巨大，百姓們苦於沉重的賦稅而怨聲載道，四川地區因此爆發了大規模的叛亂。呂蒙正作為首席宰相，在幫助太宗平定叛亂的同時，也對太宗的窮兵黷武很是不滿。
有一次，太宗看到大臣們工作辛苦，就在宮裡擺下豐盛的宴席，請呂蒙正等人吃飯，打算好好犒勞一下大家。席間自詡天下在自己的治理下百姓安居樂業、世間繁盛。所謂“拿人手短、吃人嘴軟”，吃著別人的飯，別人說點自誇的話，那也只能隨身附和一下，更何況這個人還是皇帝。
太宗的話音剛落，呂蒙正就率先起身準備發言了。太宗很高興，心想這傢伙一定是回心轉意了，於是眼巴巴的等著聽呂蒙正的恭維。可當呂蒙正說完，太宗傻了，因為他的話不僅不是恭維，反而變成了嘲諷。大致意思是這樣：你皇上能看到的地方，士民百姓齊集，自然繁盛，但我卻曾見到都城之外不過數里的地方就有很多因飢寒而死的人，皇上你要能視近及遠，才是蒼生之幸啊！太宗被這一盆冷水澆的，半天沒回過神，而呂蒙正說完這話就坦然回到座位，跟個沒事人一樣。
還有一次，太宗讓宰相們挑選可以出使朔方的人，呂蒙正將此人姓名上奏太宗，但太宗不準，連著三次駁了回去。呂蒙正卻一直認為此人可堪用，並說自己不願為了取悅皇上而妨害國事，太宗氣的抓狂，其他人也都嚇得不行，可老呂卻依然固執己見，太宗無奈，最終還是妥協了。
至道元年（995年），四川地區的叛亂基本被鎮壓下去，沒有後顧之憂的太宗終於忍無可忍，隨便找了個理由將呂蒙正給罷了，就這樣還不解氣，又把他外放到洛陽，擔任判河南府兼西京留守，眼不見心不煩。
鹹平四年（1001年），宋真宗即位後的第五年，五十七歲的呂蒙正被再次起復擔任同平章事、昭文館大學士，第三次出任宰相。此時的大宋朝廷能人輩出，寇準、王旦、馮拯、王欽若等新秀紛紛被起用擔任參知政事，這些年輕人精力充沛、才能出眾，逐漸掌握了朝政的話語權，而呂蒙正雖然名義上是首輔，但因為年老多病，不得不退居幕後。
景德二年（1005年），六十一歲的呂蒙正上書真宗，請求退休回家養老，一代名臣就這樣正式退出政治舞臺。在向真宗辭行時，真宗出於對呂蒙正這麼多年兢兢業業輔佐老趙家的感激，打算給他兒子們授任官職，但呂蒙正卻謙虛的說自己的兒子們都沒有什麼才氣，只有現在擔任潁州推官的侄子呂夷簡是個宰相之才。之後，呂夷簡果然成為真宗和仁宗時期有名的宰相。
作為一朝狀元郎，呂蒙正為了勸誡當時還是太子的宋真宗讀書，寫過一篇《寒窯賦》，其中的“天有不測風雲，人有旦夕禍福”成為千古名言，流傳至今。