该庙坐北朝南，一进院落，南北长49．8米，东西宽25．5米，占地面积为1254．96平方米。中轴线上依次为山门、献厅、正殿，东西两侧分布有垛楼、廊庑、配殿、耳殿。

小会岭二仙庙献厅为清代建筑，台基高0.41米，面阔三间，进深一间，单檐卷棚顶。前檐柱头斗拱把头交项作，后檐为荷叶墩。梁架结构为六架梁通达前后檐，通檐用二柱，未设门窗，前后敞廊。

正殿面阔三间（7.75米），进深六椽（7.45米），平面呈方形，单檐歇山顶。屋顶举折平缓，出檐深远。檐下柱头斗拱五铺作，单抄单下昂，补间斗拱五铺作，双抄双下昂。梁架结构简洁严谨，用材粗大。门窗形制为明间设四扇六抹头格扇门，次间设门两扇，亦为六抹头格扇门，显为后人改制，但原有榫卯仍可寻见。整个殿宇的建筑形制、结构手法明显带有宋代建筑风格。

对于小会岭二仙庙的创建年代，各种资料颇有争议，很多资料显示建庙时期“不详”，但也有人说，它是山西东南部太行山封顶早的一处古代建筑。