山西會館據清乾隆三十八年 (1773年)《重修大關帝廟記》載:“亳州北城之大關帝廟,建於國朝順治十三年(1656年),首事為王璧、朱孔領二人……皆系籍西陲,而行賈於亳……”首建之後,歷經修繕,才形成今天的規模。有史可記的修葺活動有:一修於康熙二年(1663年),二修於康熙二十三年(1694年),三修於康熙五十二年(1713年),四修於乾隆十九年 (1754年),五修於乾隆三十一年(1766年),六修於乾隆四十一年(1776年),以後在道光初、光緒中均有修葺,最後一次彩繪是在光緒十八年 (1892年),彩繪中有落款可證。這些修繕活動歷經260年,均為山西商人捐資完成。
