公元1087年，牛皋出生在河南汝州的魯山地區（在今天的河南省魯山縣）的窮苦農民家庭，關於牛皋從軍之前的經歷，查遍南宋時期的史料都記載甚少，窮苦農村出生的牛皋爲了生計不得不上山砍柴，他力大如牛，每日上山能砍幾百公斤的柴火，再拿到縣裏去售賣。牛皋不僅力氣大，而且他也非常的善於射術，很小的時候，牛皋就癡迷於玩射箭和彈弓。牛皋認爲自己的一技之長必須拿來養家餬口，他就每次上山砍柴時就順便射山裏的野兔、野雞和野鳥等動物，同樣，牛皋將這些收穫的獵物拿到集市去賣，這樣，牛皋通過賣柴火和野物來維持一家人的生活。在這樣日復一日的辛苦勞動下，他不僅養活了自己的家人，而且還練就了強壯的體格，他的射術練到了爐火純青的地步，這爲其以後的抗金斗爭打下了堅實的基礎。
當時，女真人建立的金朝政權佔據着黃河以北地區，黃河以南、長江以北是女真人扶持的僞齊政權，而長江以南、包括兩川地區就是南宋帝國統治的地區，女真人依仗着其強大的騎兵而不斷的南下侵略南宋，南宋軍民奮起抗擊，中原地區成了女真人最先侵略之地，牛皋的家鄉正好在中原地區，因此中原地區的百姓面對金兵的攻擊而首當其衝。牛皋也順應時事的發展，他在其家鄉組織民兵抗金。因爲多次的戰功，牛皋的軍位也被不斷的提升，他被南宋朝廷提升爲道招撫使和軍鎮撫使，公元1133年（南宋紹興三年），南宋第一名將岳飛被南宋政府安排管理江西和湖北地區的軍務。岳飛懷着滿腔的愛國熱情和對金人的刻骨仇恨而決心從襄漢地區進兵中原，收復被金兵奪取的失地。
牛皋也趕到南宋帝國的都城臨安地區會見宋高宗趙構，他也力主出師北進中原，以打擊囂張狂妄的金兵，宋高宗趙構將牛皋安排在岳飛手下效力，岳飛和牛皋都是抗金的傑出人才，他們可謂一見如故，相見恨晚！岳飛十分敬重戰功卓著的牛皋，他將牛皋任命爲自己的副帥，牛皋和岳飛這對抗金的黃金搭檔，他們並肩作戰、抗擊金兵，在名將岳飛的指揮下，南宋大軍收復了中原很多土地，這讓宋高宗趙構喜出望外。公元1134年（南宋紹興四年），僞齊政權在金國的授意下派出了大將李成進攻南宋領土，僞齊軍攻破了襄陽六郡，而且還將隨州城奪取，岳飛派牛皋去收拾他們，牛皋用2天多的時間就重新奪回隨州，並俘獲了數千僞齊軍，還收復了襄陽地區。
金兵主力進攻淮西地區，牛皋渡江迎敵，金兵被牛皋打得大敗而逃，數千僞齊騎兵又去進攻廬州地區，牛皋又將敵人打得大敗而回，牛皋率兵乘勝追擊幾十裏，殺得敵人膽戰心驚，從此，牛皋的威名遠播南北地區，公元1135年（南宋紹興五年），楊幺等人在荊湖地區發動起義，南宋政府在之前曾多次派出大軍去鎮壓起義軍，但都宣告失敗，這一次，南宋政府派遣牛皋率兵去鎮壓楊幺等人的起義。牛皋大軍在短期內就將起義軍鎮壓下去，楊幺兵敗投水自殺未死而被牛皋擒獲。公元1140年（南宋紹興十年），岳飛統兵進軍中原地區，牛皋作爲岳飛手下第一猛將，其軍鋒所到之處，中原各路敵軍都紛紛被打敗，牛皋所向無敵，威震中原而立下了赫赫戰功。
公元1140年，金國將與之前同南宋政府簽訂的盟約撕毀而進兵中原，南宋朝廷派岳飛去對付金兵，在岳飛高明的指揮下，牛皋率部連戰連勝，南宋大軍直抵黃河沿岸地區。牛皋爲南宋帝國收復中原地區立下了汗馬功勞，他在南宋部隊中的軍職也不斷的被南宋政府提升，牛皋的軍事生涯達到了人生中的頂峯，他收穫了名和利，其成爲當時家喻戶曉的南宋民族英雄。金兵不斷的被南宋軍打敗，金國無法完成奪取中原、進而滅亡南宋的戰略計劃，這讓金國政府十分惱怒！金國的頂級謀士就給朝廷出點子，讓他們賄賂秦檜害死金人的死敵岳飛，金國給秦檜送去了大量的金銀珠寶和很多美女，秦檜一概接收，得到了金人的好處，秦檜就給金人乖乖辦事了。
秦檜作爲南宋朝廷的重臣，他有機會多次勸說宋高宗趙構與金國議和，並且在高宗面前誣陷岳飛等人擁兵自重，秦檜對宋高宗說：“岳飛等人力主抗金，現今他們收復中原大片土地，岳飛還叫囂着要打到金人的肇興之地黃龍府，他佔據北方大片土地，到時候定會謀反而南下滅亡南宋！”在秦檜多次誣陷下，多疑的宋高宗終於被說動了，他給岳飛連下了三道召他回師的聖旨，岳飛被人誣陷謀反而被捕入獄，不久，他被秦檜下令毒死在了牢獄中，秦檜將岳飛害死後，他非常害怕忠於岳飛的猛將牛皋會報復自己。公元1147年（南宋紹興十七年），秦檜以設宴款待各路將領爲名而將牛皋用毒酒毒死，牛皋在死前極其悲憤的說：“我死在了屋檐下，而不能死在沙場，馬革裹屍而還，這真是大大的不幸啊！”說完，牛皋口吐白沫、全身顫抖而死。
牛皋是那個時代造就的偉大的民族英雄和傑出將領，他爲南宋王朝的收復失地的戰爭立下了汗馬之功，由於南宋政府君主的昏庸以及金國的強大，牛皋最終被南宋大奸臣秦檜給害死，這算是英雄末路和英雄的悲劇！如果宋高宗趙構是個英明神武，並有着雄才大略的君主的話，南宋帝國可以憑藉岳飛、牛皋等名將以及自身的國力去完成統一全國的偉業，但歷史沒有如果！這些被儒家傳統的忠孝觀念“洗腦”的名將們也無反抗昏君的意圖和決心。