“綠林好漢”一詞源自綠林軍起義。
西漢末年，漢元帝、漢成帝荒淫無度，朝政腐敗，土地兼併嚴重，導致階級矛盾尖銳。公元8年，外戚王莽奪權篡位。
篡位後的王莽不但沒有休養生息，還朝令夕改，不斷髮動對少數民族的戰爭，加深了人民的疾苦。改全國土地爲王田的政策觸犯了地主官僚的利益，改私家奴婢爲私屬的政策又得罪了貴族階層，加之天災不斷，於是各路人士紛紛起義反抗。
據說，在荊州南郡和江夏郡一帶，災荒鬧得極爲嚴重，百姓終日靠草根樹皮過活。由於災民太多，當地的草根樹皮根本供給不上，所以，許多百姓流離失所。
在這些窮苦百姓裏，有兩個深明大義的人，他們勸百姓說：“咱們都是受苦受難的人，我們之所以沒飯喫，都是王莽鬧的。我們應該推翻他，這樣大家才能都有飯喫。”百姓覺得他們說的很有道理，於是推舉他們兩個做了首領，打起了起義的大旗。這兩個號召大家起義的人就是史書上說的王匡、王鳳。
反抗王莽統治的人不斷增多，迅速發展到了上千人。公元17年的時候，他們佔領了綠林山，並且以此山爲據點，迅速向周邊擴張勢力。這夥集結在綠林山的起義隊伍，被人們稱爲“綠林軍”。
綠林軍在反抗王莽的鬥爭中，得到了樊崇領導的赤眉軍和劉秀的支持。公元23年，綠林軍攻進長安，取得了反抗鬥爭的勝利。
儘管綠林軍後來分化瓦解，但是綠林軍反抗暴政，深得民心，人們就稱他們爲“綠林好漢”。後來，“綠林好漢”就成了對那些嘯聚山林的人的稱呼。