太原府城之文庙，原在城西县前街（即令府西街西段）一带，规模虽壮观，但远不及后来的文庙。1881年（清光绪七年），汾河决堤，文庙毁于大水。府城缙绅学土，无不为之大惧，以为天降凶示于文人，水退之后，遂集聚府衙请求太原知府出面重建。太原知府把府城众文士的联名书上呈山西巡抚张之洞，请巡抚大人定夺。当时张之洞就任抚台不久，为稳定太原文人之心，便决心重建一座规模更大的文庙。他亲自选址于同治年间焚毁的崇善寺废墟之地 ，并倡导省城集资。在他的积极提倡下，没有动用公款，很快便建起一座规模宏伟的新文庙。 山西巡抚张之洞，遂在原崇山寺的废墟（今文庙址 ）之上，大兴土木，新建文庙，文庙巷之名称亦得于此时。新建的文庙，占地13000多平方米，由亭、殿、门、庑、祠，组成三进院落，利用前崇善寺末毁的零星建筑，较之原庙更为恢宏、庄重 、婉雅、俊逸。太原文庙由南向北依次建有照壁、六角井亭、棂星门、大成门、大成殿、东西庑和崇圣祠。院心宽广，古木参天。已经受到了一定程度的保护。作为博物馆一部，文庙已向大众开放，主要展厅是大成殿及其东西两庑。展出内容是山西史，分古代和近代两大部分，整个展览反映了山西政治、经济、文化、军事等方面在中国历史上的重要地位，重点突出了山西人文荟萃、古建冠绝、戏剧渊薮等特色。比如在大成殿，已经整修一新：高大的孔子像令人敬畏，更有各种文物陈列整齐，并且大都放在玻璃箱之中，得到了很好的保护。