少林寺建于北魏太和十九年（公元495年），是孝文帝为安顿印度高僧跋陀而建。因其建于嵩山少室密林之中，故定名“少林寺”。北魏孝昌三年（公元527年）印度高僧菩提达摩，来到少林，在少室山五乳峰一天然石洞内面壁九年，传下禅宗。至此少林被称为“禅宗祖庭”。传说少林的武术，就是达摩所创立

唐初少林寺昙宗等十三棍僧，在秦王李世民讨伐王世充的征战中，立下了汉马功劳，得到了