这黄山派创立于元朝，它的创始人叫海云禅师，原是元世祖忽必烈的一名谋士，元世祖在世之时，他得到重用，他也尽心辅助忽必烈治理国家。忽必烈年轻时确实是一位贤明的君主，但他晚年也犯了许多帝皇同样的错误，重用奸臣阿合马、卢世荣、桑哥等人，而且权势欲极强，自恃功劳大，年近八十岁了，却仍然把住皇位，不准太子理朝，把朝廷大小事情交给几个奸臣去做，结果朝纲混乱，贤良忠诚之辈被排挤，他对群臣和功臣疑心甚重，都怀疑群臣想抢他的皇位，因此朝中许多贤良忠臣遭到贬庶，甚至杀戮，就连太子真金他也不放过，怕他抢自己的皇位，逼死了太子真金。
真金本来是一位颇有政治才干的人，他死时只有四十三岁。因为海云禅师也一直扶持太子真金，他见太子已死，忽必烈又是非不分，大元朝廷已经无法扶持，便只好隐退到黄山，以躲避祸难。海云禅师不仅知识渊博，而且武功高强，文才武略均卓绝过人，他此时已经是晚年了，已经七十多岁了，便想把自己一身的武学和博学传于后人，于是把招收了两个弟子，把自己所学传于他们。海云禅师活了九十多岁才去世，他死后，他的两个弟子继承他的遗愿，建立寺庙招受门徒，于是便渐渐成了一个小门派。到了元末明初，天下大乱，黄山附近许多无家可归的人纷纷把自己的儿子送上黄山，以求保命，于是黄山派便渐渐壮大了起来，到了黄山老叟时，黄山派竟然挤身入了江湖中十大门派的行列。
黄山派的武功大部分源于海云禅师，而海云禅师的武功源于岭南的宝林寺，内功偏向于刚阳纯猛之类，本来不适合女子修炼，加上海云禅师所传下来的武功多是与少林武学有关，少林派的武学多数与佛理相通才能发挥出它的威力，因此黄山派最初并不出名，后来黄山几代掌门吸收其它门派的武功自己创造了几套武功，黄山派才有了一些名气。黄山老叟机缘巧合食了黄山的一棵千年灵芝，武功大增，黄山派这才在江湖中大放光彩。黄山派的剑法最厉害的招数“梦笔生花”、“犀牛望月”、“孔雀戏莲”、“金龟爬山”、“猴子观太平”、“南海观音”、“仙人指路”均是他创造而出，而且这些剑招均以黄山派的几处名胜来命名。
黄山老叟生前还以一套“三十六路天罡手”饮誉江湖，这套“天罡手”是他结合黄山派历代相传的武功“五禽擒拿手”创造出来的，这五禽是指虎、豹、狼、熊、猫五种动物，是黄山派前几代掌门根据这五种动物捕食的动作创造出的一门厉害擒拿手。而黄山老叟根据自己观察黄山的猴跃、蛇行、狗跳、鹰击、鹤翔等多种动物的动作后，加以改进这套“五禽擒拿手”，创造出这套“天罡手”来，专门锁拿人的要害穴道，往往一招致敌，诡异莫测，精妙无比，足可与江湖中的大擒拿手和小擒拿手相提媲美。