Pierwsze wzmianki o Kempo pochodzą z Indii już sprzed 5-tysięcy lat. Już wtedy było dobrze zorganizowaną i określoną formą samoobrony. Dzięki kontaktom i przekazywaniu swojej wiedzi innym kulturom, oraz przejmowaniu elementów z innych walk bez broni, Kempo stopniowo się rozwijało.
W VI wieku XXVIII patriarcha Buddyzmu Daruma (Bodhidharma) przeniósł Buddyzm do państwa Wei, zatrzymując się w klasztorze Shaolin-ssu na górze Hao-shan. Nauczał tam zasad zwanych Ch'an, a wraz z nim technik indyjskiego Kempo. Formy te traktowane były jako zespół ćwiczeń zdrowotnych mających na celu zwiększenie sprawności fizycznej mnichów. Z czasem Kempo stało się metodą zjednoczenia umysłu i ciała, której zasady opierały się na filozofii Kongo-zen. Nauczała ona iż królestwo niebieskie jest w sercu każdego człowieka. Filozofia ta połączyła łagodność z surowością zasad. Dlatego też można powiedzieć że, Kempo traktuje życie, jako drogę opartą na realizacji wzajemnych powiązań wszystkich rzeczy i potencjalnej wiedzy człowieka. Kempo naucza, że przez człowieka muszą przemawiać nie tylko aspekty materialne, ale przede wszystkim duchowe. Ten, kto dąży do ideału człowieka powinien dążyć do psychicznej równowagi i moralnej dyscypliny. Kempo kładzie nacisk na jedność ciała i ducha w miłości, mądrości, odwadze i zdrowiu. "Bo bez miłości człowiek nie może znaleźć harmonii z innymi ludźmi. Bez odwagi nie może stawiać czoła problemom, które życie codzienne przed nim stawia. Bez zwrócenia uwagi na zdrowie nie będzie się mógł rozwijać." Można powiedzieć, że istota Kempo polega na nauce następujących zasad: odpowiedzialność leży w człowieku, jedność ken i zen, jedność siły i miłości, połowa życia dla siebie, połowa dla innych.
Zasady te wytyczają optymalną ścieżkę dojścia do harmonii w oparciu o filozofię Kongo-zen. Shaolin stało się sławne nie jako centralny Zarząd Sekty Zen, ale jako Centrum Sztuki Walki bez broni. Początkowo Kempo nie miało nazwy, posiadało jednak formę elementarnego systemu, które określano mianem skutecznej metody walki. Czasem zwane było jako Nalo-jan, lub Arohan. W późniejszym czasie nazwane zostało J-jinsin i uznane było za niebezpieczną broń w ręku człowieka. Dlatego Kempo w Shaolin trzymane było przez mnichów w ścisłej tajemnicy, udostępnianej tylko tym, którzy wierzyli w nauki Buddy i dostawali się do klasztoru. Twierdzili, iż nie można nauczać Kempo poza murami klasztorów, ze względu na niszczycielską siłę oddziaływania na człowieka.
Z czasem mnisi zaczeli nauczać form Kempo poza murami klasztorów, przyczyniając się do rozpowszechnienia tej sztuki walki w całych Chinach. Nazywane w zależności od regionu w którym było ćwiczone, przybrało charakter sztuki wojennej. Prawdopodobnie wówczas przybrało obecną formę dzieląc się na dwie szkoły: północną - pełną siły, twardości, otwartą, nie unikającą walki; południową - powściągliwą, skoncentrowaną na obronie i błyskawicznym ataku, skierowanym na punkty witalne człowieka.
Wielkim mistrzem tej sztuki walki w latach trzydziestych XX wieku był taoistyczny mnich Wen-Lanshi, mający swoją szkołę w Pekinie. Odmianą Chińskiego Kempo jest Japońskie Shoriji Kempo. Założycielem był mistrz Doshin So, który studiował tajniki Kempo w Chinach. Połączył on wszystkie znane mu style Kempo, tworząc jedną sztukę walki, która traktowana jest jako obrządek. Swoim stylem zbliżona jest do szkoły północnej. Główna siedziba Shoriji znajduje się na wyspie Shikoku w prefekturze Shikoku.