文庙亦圣庙、孔庙。始建于唐开元十三(725)。长庆四年(824)县令邢审容首葺(原有碑记)。宋代李玠再葺,并刻御制“八行八刑”碑于其中。元代时权三葺之。明朝嘉靖年间(1522——1566),孔子63代孙孔贞宁迁居汶上,且因曲阜长支64世衍世衍圣公之爵,并加赐居汶各支世袭太常寺、五经博士和六品官等官爵(品级均高于县令),故明清二代不断仿曲阜文庙形式予以修葺、扩建,形成以大成殿为主体的庞大建筑群。其占地面积2万余平方米,规模仅次于曲阜方庙建筑群。
今存大成殿系明代建筑,长23.5米,宽13米,高11.6米,悬山式建筑,7楹32柱,单层飞檐,覆绿色琉璃瓦。前侧有黄色琉璃瓦棱形图案,内外皆施斗拱,平拱双昂。斗拱、飞檐皆施彩绘,殿脊、飞檐饰人物、鸟兽。殿内上悬“万世师表”巨匾,正中塑孔子像,两侧有4配12哲塑像。前有戟门(一名大成门)。5楹单檐彩绘。后有彩绘明伦堂7楹,为县学授课场所,正中悬“明伦堂”匾额,传为宁代大儒朱熹所书。殿之月台两侧并建东西庑各12楹,内设孔子弟子及历代陪飨先贤先儒牌位。另有文明坊、东西华门、棂星门、瞻贤坊、仰圣坊、名宦乡贤祠、节孝祠、启圣祠、文昌祠、博文斋、药礼斋、教谕训导二宅、敬一亭、架阁史房、射圃学仓等建筑。院内碑碣林立,古柏参天。前文明坊书“太和元气”,东西华门书“德侔天地,道冠古今”,棂星门前墙外设有石栏、“-人等至此下马”二石碑。民国及日伪时期,曾对上述建筑加以小修。1948年解放后,因改建学校、扩街等,大部拆毁,众多碑碣被埋于戟门前之泮池中和东侧院内地下。今唯余大成殿、戟门、明伦堂、名宦乡贤祠、节孝祠和元代《重修圣庙记》碑一通。
1993年对文庙进行整修,七十七代嫡孙女孔德懋提写“戟门”匾额。