少林寺始建于北魏太和二十年（公元496年），是由西域沙门跋陀创立的。在跋陀创建少林寺之后，印度僧人菩提达摩来到少林寺传播大乘佛教，被后人称为“禅宗初祖”。相传少林寺最早的武术由达摩所传授。隋末，唐王李世民与王世充激战于河南，少林寺因寺产为王世充部队占据，于是帮助唐军袭取了擐州城，这就是史上有名的“少林十三棍僧”的来历。

鲜为人知的是，在近代，少林寺也曾经拥有过强大的武力，不仅使用传统的大刀长矛，而且还拥有步枪、机关枪等现代兵器，少林寺僧兵集团在民国初年的军阀混战史中曾经留下过浓重的一笔。当时在河南的军事地图上，活跃着三种不可小觑的地方势力。第一种就是豫西深山的土匪，第二种是地方民团，第三种是民众组织的红枪会、金钟罩等带着迷信组织的会党。其中的民团就是由少林方丈恒林担任团总，恒林死后，继任的妙兴、妙全都是少林高僧，在地方民团中有莫大影响力。

少林寺的民团团总，有多大的实力呢？这要从少林寺在地方的实力说起。少林寺虽然只是一个寺院，却有十多家下院，二十五家门头房。门头房好比少林寺的支派，而少林寺的方丈，照例由永化堂一脉传承。只这永化堂控制的土地，就至少有几千亩，方圆几十里。少林寺民团，就是因为少林寺要保护自己的财产，武装起来的地方武力，各堂联合起来，每支武力约有一千多人，计有两万余众，少林寺方丈照例任团总。从清末以来，少林寺虽然处于兵匪会党丛生的豫西，却向来固若金汤。

少林寺僧兵团参与军阀混战，石友三火烧少林寺樊钟秀妙兴后来以少林寺民团团总的身份，加入吴佩孚部队卢耀堂旅，成为直系的猛将。1925年胡憨之战，樊钟秀在国民二军胡景翼部麾下，与憨玉琨崔继华作战作战，妙兴不避嫌疑，协助师兄樊钟秀（少林俗家弟子）攻打崔继华，使樊钟秀部兵不血刃，占领了密县。1927年，冯玉祥国民联军与吴佩孚激战豫南，妙兴死于任应岐部的流弹之下。

1928年三月，樊钟秀乘冯玉祥的国民军后方空虚，夺占了巩县及偃师县，但不久被冯部将石友三夺回。 樊钟秀南撤，转攻登封县城，其司令部即设在少林寺内。石友三部向南追击，至轩辕关，少林寺僧在嵩山之南十八盘，借助地势阻击石友三部，樊钟秀从容退往嵩县深山。

少林寺僧兵团参与军阀混战，石友三火烧少林寺石友三少林寺僧终不敌而溃。三月十五日，石友三追至少林寺，遂纵火焚法堂。次日，驻防登封的国民军旅长苏明启，命军士抬煤油到寺中，将天王殿、大雄殿、紧那罗殿、六祖殿、阎王殿、龙王殿、钟鼓楼、香积厨、库房、东西禅堂、御座房等处，尽付一炬，以泄其愤。

自此之后，少林寺民团的威风为之一敛，再也没有参与地方军阀的征战。从1928年西北军占领河南开始，压制地方势力，红枪会和民团的发展都受到极大的限制，游民壮士，转投西北军。1936年的时候，少林本寺的和尚只剩下五十余人了。