中國少林武功起源於古代嵩山少林寺，並因而得名。作為我國著名的武術流派之一，少林武功的曆史悠久影響深廣，是中國傳統武術的一個重要組成部分，是中華民族智慧的結晶。然而，據說最早武術並不是在中國出現的而是在古印度，少林拳的創始人也是印度人——達摩。為什麼這麼說呢？
一般認為，少林拳的創始人，是一位名為達摩的印度僧人。達摩，這位中國佛教禪宗的初祖菩提，是天竺國佛教禪宗第27代祖師般若多羅的嫡傳弟子。
據說有一天，在印度修行的達摩問師傅般若多羅大師：“我得法以後，應該到什麼地方去傳法？”般若多羅回答說：“去震旦。”達摩遵照師傅囑托，東行來到今中國。他首先在南朝都城金陵晉見了梁武帝蕭衍。
在會見期間，皇帝說：“我已經建造了許多寺廟和寶塔，並且修複了更多的寺廟和寶塔，我把我的許多寶藏給了尚哈（與佛教僧侶有著兄弟般的關係的人），而且為主要寺廟提供了大量土地。我盡了一切努力，我能得到什麼呢？”達摩注視著皇帝，答道；“陛下，雖然您盡了所有的努力，可是您一點兒也沒有獲得公德。”皇帝被激怒了，驅逐了達摩。
達摩感到在中國南方並不受歡迎，隻好渡江北上到魏都洛陽。達摩來到魏都洛陽，不久又來到嵩山，一看這裏山青水秀，就在五乳峰的山洞中落跡麵壁，一坐就是九年。相傳，達摩在這個石洞裏，整日麵對石壁，盤膝靜坐。不說法，不持律，默然終日麵朝壁，雙眼閉目，五心朝天，在“明心見性”上下功夫，在思想深處“苦心練魔”。洞內靜若無人，萬籟俱寂，入定後，連飛鳥都不知道這裏有人，竟在達摩的肩膀上築起巢穴來了。
一年夏天，達摩發現自己剛坐下修煉不久，便不知不覺地打磕睡，他被自己的惰性激怒了，並且認識到打磕睡是絕不會達到佛教的終極境界的，於是，他用刀割斷了自己的眼皮，扔出山洞。
此後不久，一個很小的達摩眼皮落地的地方長出一棵茶樹芽，後來僧人的弟子們發現了這棵茶樹，茶葉經過調製，幫助僧侶們在長期的修煉過程中保持清醒的頭腦。自此以後，茶葉就成了修煉廳裏必不可少的物品。達摩在山洞裏呆了九年，直到達到佛教之終極。當達摩離開山洞開始傳授禪宗時，弟子們發現，他坐禪麵對的那塊石頭上，竟留下了一個達摩麵壁姿態的形象，衣錦織紋，隱約可見，宛如幅淡色的水墨畫像。人們把這塊石頭稱為“達摩麵壁影石”。把這個天然石洞，稱之為“達摩麵壁洞”。直至今日，遺址猶存。
九年之後的達摩功到業成，便開始出來傳布大乘禪法了，從此也被尊為中國佛教的禪祖。
當年達摩終日靜坐，不免筋骨疲倦，又加上在深山老林，要防野獸和嚴寒酷暑的侵襲，深感身體鍛煉的必要性。在向僧侶們傳授禪宗時，僧侶們每天長途跋涉帶著自己的事物來到達摩的山洞。然而，達摩注意觀察，發現他們學習新知識所取得的成績很微小，他們的身體保持不住長時間修煉的僵硬狀態，肌體是軟的，並且已有許多僧人由於每天長時間盤腿而坐產生了血液循環問題。有些僧人體力不支，坐下修行一會兒就昏昏欲睡，精神不振。達摩認識到他們需要各種武功以克服長期打坐而帶來的影響。達摩利用自己作為印度貴族所受的教育，根據瑜珈學研究了一係列的功夫。這些功夫能夠增加體內循環能量、提神和放鬆筋骨，而且強身健體。後來這些功夫被書中稱為“古典肌體變化學”。
同時，為了驅倦、防獸、健身、護寺，達摩等人還仿效我國古代勞動人民鍛煉身體的各種動作，編成健身活動的“活身法”傳授僧人，此即為“少林拳”雛形。此外，達摩在空暇時間還練幾手便用鏟、棍、劍、杖等防盜護身的動作，後人稱之為達摩鏟、達摩杖、達摩劍。以後，他又吸取鳥、獸、蟲、魚飛翔、騰躍之姿，發展“活身法”，創造了一套動靜結合的羅漢十八手。後來經過曆代僧徒們長期演練、綜合、充實、提高，逐步形成一套拳術，達百餘種，武術上總稱“少林拳”。