公元1087年，牛皋出生在河南汝州的鲁山地区（在今天的河南省鲁山县）的穷苦农民家庭，关于牛皋从军之前的经历，查遍南宋时期的史料都记载甚少，穷苦农村出生的牛皋为了生计不得不上山砍柴，他力大如牛，每日上山能砍几百公斤的柴火，再拿到县里去售卖。牛皋不仅力气大，而且他也非常的善于射术，很小的时候，牛皋就痴迷于玩射箭和弹弓。牛皋认为自己的一技之长必须拿来养家糊口，他就每次上山砍柴时就顺便射山里的野兔、野鸡和野鸟等动物，同样，牛皋将这些收获的猎物拿到集市去卖，这样，牛皋通过卖柴火和野物来维持一家人的生活。在这样日复一日的辛苦劳动下，他不仅养活了自己的家人，而且还练就了强壮的体格，他的射术练到了炉火纯青的地步，这为其以后的抗金斗争打下了坚实的基础。
当时，女真人建立的金朝政权占据着黄河以北地区，黄河以南、长江以北是女真人扶持的伪齐政权，而长江以南、包括两川地区就是南宋帝国统治的地区，女真人依仗着其强大的骑兵而不断的南下侵略南宋，南宋军民奋起抗击，中原地区成了女真人最先侵略之地，牛皋的家乡正好在中原地区，因此中原地区的百姓面对金兵的攻击而首当其冲。牛皋也顺应时事的发展，他在其家乡组织民兵抗金。因为多次的战功，牛皋的军位也被不断的提升，他被南宋朝廷提升为道招抚使和军镇抚使，公元1133年（南宋绍兴三年），南宋第一名将岳飞被南宋政府安排管理江西和湖北地区的军务。岳飞怀着满腔的爱国热情和对金人的刻骨仇恨而决心从襄汉地区进兵中原，收复被金兵夺取的失地。
牛皋也赶到南宋帝国的都城临安地区会见宋高宗赵构，他也力主出师北进中原，以打击嚣张狂妄的金兵，宋高宗赵构将牛皋安排在岳飞手下效力，岳飞和牛皋都是抗金的杰出人才，他们可谓一见如故，相见恨晚！岳飞十分敬重战功卓著的牛皋，他将牛皋任命为自己的副帅，牛皋和岳飞这对抗金的黄金搭档，他们并肩作战、抗击金兵，在名将岳飞的指挥下，南宋大军收复了中原很多土地，这让宋高宗赵构喜出望外。公元1134年（南宋绍兴四年），伪齐政权在金国的授意下派出了大将李成进攻南宋领土，伪齐军攻破了襄阳六郡，而且还将随州城夺取，岳飞派牛皋去收拾他们，牛皋用2天多的时间就重新夺回随州，并俘获了数千伪齐军，还收复了襄阳地区。
金兵主力进攻淮西地区，牛皋渡江迎敌，金兵被牛皋打得大败而逃，数千伪齐骑兵又去进攻庐州地区，牛皋又将敌人打得大败而回，牛皋率兵乘胜追击几十里，杀得敌人胆战心惊，从此，牛皋的威名远播南北地区，公元1135年（南宋绍兴五年），杨幺等人在荆湖地区发动起义，南宋政府在之前曾多次派出大军去镇压起义军，但都宣告失败，这一次，南宋政府派遣牛皋率兵去镇压杨幺等人的起义。牛皋大军在短期内就将起义军镇压下去，杨幺兵败投水自杀未死而被牛皋擒获。公元1140年（南宋绍兴十年），岳飞统兵进军中原地区，牛皋作为岳飞手下第一猛将，其军锋所到之处，中原各路敌军都纷纷被打败，牛皋所向无敌，威震中原而立下了赫赫战功。
公元1140年，金国将与之前同南宋政府签订的盟约撕毁而进兵中原，南宋朝廷派岳飞去对付金兵，在岳飞高明的指挥下，牛皋率部连战连胜，南宋大军直抵黄河沿岸地区。牛皋为南宋帝国收复中原地区立下了汗马功劳，他在南宋部队中的军职也不断的被南宋政府提升，牛皋的军事生涯达到了人生中的顶峰，他收获了名和利，其成为当时家喻户晓的南宋民族英雄。金兵不断的被南宋军打败，金国无法完成夺取中原、进而灭亡南宋的战略计划，这让金国政府十分恼怒！金国的顶级谋士就给朝廷出点子，让他们贿赂秦桧害死金人的死敌岳飞，金国给秦桧送去了大量的金银珠宝和很多美女，秦桧一概接收，得到了金人的好处，秦桧就给金人乖乖办事了。
秦桧作为南宋朝廷的重臣，他有机会多次劝说宋高宗赵构与金国议和，并且在高宗面前诬陷岳飞等人拥兵自重，秦桧对宋高宗说：“岳飞等人力主抗金，现今他们收复中原大片土地，岳飞还叫嚣着要打到金人的肇兴之地黄龙府，他占据北方大片土地，到时候定会谋反而南下灭亡南宋！”在秦桧多次诬陷下，多疑的宋高宗终于被说动了，他给岳飞连下了三道召他回师的圣旨，岳飞被人诬陷谋反而被捕入狱，不久，他被秦桧下令毒死在了牢狱中，秦桧将岳飞害死后，他非常害怕忠于岳飞的猛将牛皋会报复自己。公元1147年（南宋绍兴十七年），秦桧以设宴款待各路将领为名而将牛皋用毒酒毒死，牛皋在死前极其悲愤的说：“我死在了屋檐下，而不能死在沙场，马革裹尸而还，这真是大大的不幸啊！”说完，牛皋口吐白沫、全身颤抖而死。
牛皋是那个时代造就的伟大的民族英雄和杰出将领，他为南宋王朝的收复失地的战争立下了汗马之功，由于南宋政府君主的昏庸以及金国的强大，牛皋最终被南宋大奸臣秦桧给害死，这算是英雄末路和英雄的悲剧！如果宋高宗赵构是个英明神武，并有着雄才大略的君主的话，南宋帝国可以凭借岳飞、牛皋等名将以及自身的国力去完成统一全国的伟业，但历史没有如果！这些被儒家传统的忠孝观念“洗脑”的名将们也无反抗昏君的意图和决心。