《乌石山志》载，“明万历初为提学孙昌裔石梁书室。清顺治年间孙昌裔子学稼、学辅舍（书室）为观（道山观），前建玉皇阁，旁建三宝殿；后添鬼谷子祠及吕祖宫等”。经考证，福州乌石山吕祖宫始建于清光绪7年（1881年）。

吕祖宫位于乌山弥陀寺西侧，占地200平方米左右。包括前殿（今为乌山画院）、正殿、厢房、天井等。昔时宫内道具、法器齐全，经藏、书画丰富。“文革”中遭冲击，尽毁无存。落实宗教政策后，宫殿得到修复。奉祀孚佑帝君吕洞宾塑像，成为道教宫观。由中国道教协会名誉理事长、省道教协会副会长陈焱木（注：“焱”与“木”需拼成上下结构的字）官为住持，福州市道教协会副秘书长陈锦丰为副住持。他们苦心经营，宫貌焕然一新，被列为福州市对外开放宫观。

乌山乃榕城著名风景区，吕祖宫碧瓦红墙，梵钟苍松，给优美的自然环境增添庄严肃穆的色彩。吕祖宫面向两塔（白塔、乌塔），为山中最佳凭眺处。宫的周围亭台楼阁、名人题词、崖刻众多，宫前还有造型逼真的李铁拐塑像，葫芦瓶里日夜喷射晶莹的水柱，每天都有许多游客驻足观赏。

吕祖宫供奉的是八仙之一的吕洞宾，历史上吕洞宾确有其人，名品山（注：“品”与“山”需拼成上下结构的字），字洞宾，号纯阳，京兆（今西安市）人，唐贞元14年（798年）4月14日生。他眉目清秀，仪表堂堂，赋性聪敏，善诗文，出口成章。可是，怀才不遇，屡试不第。他感悟与功名无缘后，遂往终南山鹤岭仙人洞修道，遇钟离汉授龙虎金丹秘法。云游庐山，复遇火龙真人传天循剑法而善剑术。他自称“回（两口，即吕也）道人”，背剑浪游江湖。在江、淮及湘潭、岳阳等地留下“双剑斩黄龙”、“三醉岳阳楼”、“三戏白牡丹”等神话故事。后在武昌黄鹤楼骑鹤升天。因为吕洞宾道骨仙风，又有“诗仙”、“剑仙”、“酒仙”的称号，成了一位充满人情味的神仙，受到人们的喜爱。

吕洞宾乃道教全真道创始人王重阳之师父，道教徒奉他为全真道五祖之一，称为“吕祖”。宋宣和元年（1119年）徽宗皇帝封他为妙道真人，元世祖忽必烈又封他为纯阳演正警化真君。民间流传的吕洞宾故事很多，这些故事蕴含他的道德观，比如修心、积善、改过、忠孝、诚信等，有一定的积极意义。