鄭州是一個歷史悠久的城市，位於河南中部偏北，北瀕黃河，西望太行，左右有濟、洛二水縈流。加之其“西控虎牢（關），東蔽大梁（開封）”，“北通幽燕，南達兩湖”，當東西南北的要衝，因而自古以來便雄視中原，控御險要，成為天下重鎮。
公元前597年（魯宜公十二年），楚莊王親率三軍攻打鄭國，鄭國國君被迫請和。晉景公聞訊派荀林父救鄭，晉軍渡黃河進駐菅城（今鄭州）西部的滎陽，與盤踞菅城的楚軍對峙。荀林父臨陣畏敵，派人到楚營言和，沒想到部下擅自衝擊楚軍，引起楚軍反擊，晉軍連夜渡河北逃。公元前587年（魯成公四年），鄭國進攻許國，晉國派欒書伐鄭救許，鄭軍戰敗，晉國佔領了鄭國的記邑（今中單縣南）和祭邑（今鄭州市東北）。公元前555年（魯襄公十八年），鄭國的大夫子孔為了奪取鄭國的統治權，勾結楚國來攻打鄭國，楚康王遂命令尹子庚率軍進駐今鄭州市西南三十多里處的梅山。這時，鄭國的大夫子展和子西發覺了子孔的陰謀，嚴加防範，使子孔無法出城接應楚軍。時值秋雨連綿，楚軍凍餒而死者甚多，不久被迫撒軍。
公元前522年（魯昭公二十年），鄭國的萑符（今鄭州老城東二十里處）之澤聚集了許多起義的奴隸，鄭定公派兵將其鎮壓下去。戰國末年，鄭州一帶是秦國吞併魏國時注目的地方。魏公子無忌曾對魏王說：“秦有鄭地，與大梁鄰，王以為安乎？”意思是提醒魏王注意來自鄭州方向的威脅。公元前238年，秦王贏政派軍攻打魏國，很快就佔領了魏國的衍氏城（今鄭州老城北三十里處），然後東魏國的國都大梁（今開封），公元前209年（秦二世元年），陳勝、吳廣起義後，陳勝在陳縣（今河南淮陽）自立為王，立即派吳廣領兵西擊滎陽，戰火蔓延至今整個鄭州地區。後為秦將章邯擊敗，吳廣身亡。
楚漢相爭之際，鄭州一帶是主要戰場之一。楚軍屢次攻奪鄭州西部的重險成皋關（虎牢關），劉邦派周勃堅奇敖倉（滎陽敖山），派彭越襲擊楚軍後方，派韓信向黃河以北發展。韓信一面側擊楚軍，一面打擊歸附項羽的魏趙、燕、齊等國，翦其羽翼。公元前204年春天，楚軍以優勢兵力猛攻滎陽，劉邦被困，曾打算向項羽請和。有人向他建議，認為應該向陝西武關方向突圍，以調動楚軍主力。劉邦採納了這個建議，引兵突出重圍西去。楚軍果然緊追不捨。這時，因彭越襲擊項羽後方成功，項羽親率主力東擊彭越，劉邦乘機又返回成皋。同年六月，項羽安定了後方之後，回師再攻滎陽，一舉將漢軍趕過黃河。不久，項羽又被迫向東回擊彭越，將成皋一線的指揮權交給大司馬曹咎。
十月，劉邦返至成皋進攻曹咎，利用其易躁易怒的弱點，迅速奪下成皋和廣武城。等項羽再來爭奪時，漢軍已在廣武山上牢牢站穩了腳跟。項羽無奈，只好同劉邦割鴻溝為界，西屬漢，東屬楚，然後撤軍東退。一年後，劉邦向東進攻，終於在公元前202年12月於坡下（安徹靈壁縣境內）之戰全殲楚軍。劉邦平定天下後，大概是汲取了同項羽作戰的教訓，仍極為重視鄭州附近的防禦，特派陳平、灌嬰領十萬精兵屯駐滎陽。據史書上講，劉邦之所以要這樣做，也是由於“天下新定，恐易世之際，人心動搖，故以信臣重兵屯南北之衝”。鄭州附近的榮陽，不但在漢初，在整個漢代都是非同尋常的地方。
漢景帝三年（公元前154年），吳、楚等七國反漢時，漢朝大將周亞夫曾揚言：“吾據滎陽，滎陽以東無足憂者。”東漢建安五年（公元200年），袁紹軍盤踞於此，曹操命徐晃偷襲衰紹軍，燒燬其大量輜重。
公元398年（東晉隆安二年）8月，晉寧朔將軍鄧啟方、南陽太守丘嘉率領二萬人攻打南燕，與南燕軍戰於菅城，晉軍大敗。公元423年（宋景平元年）3月，北魏軍進攻虎牢，宋守將毛德祖奮力抵抗，堅持了二百餘天仍未失城，後因北魏軍挖地道引走城中水源，宋軍無力再戰，虎牢才被北魏軍攻陷。隋末群雄紛起，翟讓的瓦崗軍不斷出擊商邱、鄭州一帶，截獲隋軍大批物資，聲威大振。公元616年（隋大業十二年），隋煬帝派張須陀為滎陽通守，率軍進攻瓦崗察。翟讓與李密、徐世勳、王伯當等伏擊隋軍於滎陽西北的密林中，張須陀戰死，隋軍大部被殲。此戰使瓦崗軍愈發強大，成為推翻隋朝統治的一支重要力量。唐初，竇建德又與李世民戰於虎牢，竇建德軍大敗，竇建德本人逃至鄭州以西的牛口渚被擒。
唐元和十年（公元815年），淄青節度使李思道遣兵進攻鄭州附近的河陰轉運院，焚燬貯存在那裡的大量糧食布匹，然後折向淮西。公元1127年12月，金兵聞宋高宗趙構南逃，分三路追擊，一路由宗輸率領自河陽（河南孟縣）渡河攻河南，一路由兀朮率領自滄州南下攻山東，一路由洛索率領自同州（陝西大荔）攻陝西。宗翰過河後，佔據虎牢關，引兵向東又奪鄭州。鄭州知府董庠棄城逃跑，金兵越過鄭州繼續進攻汴京（開封），為宗澤所敗，於是才回頭佔領鄭州。明崇禎八年（公元1635年），十三家農民起義軍在滎陽會師，李自成提出分兵五路作戰的方針，為大家所贊同。滎陽大會後，擔負向東進攻任務的高迎祥、李自成部經過鄭州，十幾天便攻下安徽鳳陽，焚燬明皇陵，接著又回兵北上，攻克商邱，轉戰河南各處，基本上控制住了中原地區。
1927年2月，奉系軍閥張作霖派兵沿平漢線南下，與吳佩孚軍隊戰於鄭州北，四月底佔領鄭州。1941年秋，日寇發動長沙戰役時，為牽制豫中蔣軍，特抽調三個師團約五萬人的兵力，在中牟、滎陽等處集中，於10月2日分三路進犯鄭州，兩天後即攻克鄭州。10月31日，蔣軍反攻收復鄭州，日寇潰退至邙山一線。解放戰爭時期，我軍解放開封和濟南後，鄭州守敵懾於被殲，曾企圖棄城逃跑。我第二野戰軍九縱在兄弟部隊配合下，於1948年10月22日發起進攻，當日進佔鄭州，共殲敵一萬二千餘人。