祖师庙是一座道教庙宇。建于晋武帝年间，因流传着祖师爷在此9修道成仙的故事而闻名。祖师爷原是明朝皇宫的太子，名叫玄元，因不愿过花天酒地和争权夺位的宫廷生活，于永乐年间来到岘山修炼。经过40年的潜心修行，终成正果，得道成仙之后去了武当山。
，这里成为后人朝拜的圣地，每逢农历二月二十四，此地举行盛大庙会。会时香客如潮，有时多达万人之众。原来的祖师庙顶是用铁瓦铺成，因此岘山又名“铁顶山”，石刻“铁顶山”便是一例证。据说建造寺庙时，铁瓦都是捆在羊背上驮来的，建筑之难由此可见。
现存的祖师庙为一个开放式的院落建筑，中间是祖师殿，供奉祖师爷及周公与桃花二神位，两边分别有一位灵官。殿左边是张灵官殿，右边是王灵官殿，正对面院中空阔处是铁灵官，铁灵官体形如真人大小，是用铁铸成。灵官殿与祖师殿都有腊像，其形态逼真。这是一个典型中国式道教建筑院落，现存神殿都为砖瓦结构。
