府谷县的长城，据史籍记载，可以追溯到战国时期。最初是魏国为了保障边境的安全曾在县境东部修筑长城。公元前355年，魏国在秦国的强大压力下割让上郡15县(即今陕北榆林一带)给秦国。于是秦国也在上郡沿边修筑长城。公元前215年，秦始皇派大将蒙恬率领30万大军，北伐匈奴，迫使匈奴向北退却150多公里占领河套地区，并在黄河北岸把燕、赵、秦三国旧长城连接起来，陕北遂为内地，称为“新秦”。到了隋文帝开皇二年(582)，突厥大举入境，发兵40万，突破了长城线，纵兵在上郡掠杀，于是隋王朝开始重新修筑陕北长城，先后5次用民工148万人，历时23年。这些魏长城、秦长城和隋长城，至今已很难寻找，只是在某些段落偶尔可以看到痕迹。
府谷现有长城是明代所筑，当时称为“边墙”。据史籍记载，明成化年间，蒙古贵族首领毛里孩入境，延绥榆林大扰。成化十年(1474)闰六月，延绥巡抚余子俊奏准朝廷修筑边墙(即明长城)，率领将士4万多人，“依山形，随地势，或铲削，或筑垒，或挑堑”，历时三月，修筑而成。这条长城东起清水营(今县境北)，西至花马池(今定边县西北)，全长约700公里。境内长城东起墙头角，与山西省河曲县内长城隔河相望，西至新民乡陈峁村，与神木县境内的长城相连，其间经过麻镇、大岔、清水、赵五家湾、木瓜、庙沟门、三道沟等乡镇的地域，全长100公里，计有长城墩台155个。城墙全用土筑成，城墩底座为石条所筑，城墩墙面用砖包砌。现长城墩台几乎全被拆除，长城北侧由于长年受西北风雨冲刷，大多形成坡状。长城南侧仍坚固挺立，夯土层清晰可辨。长城线上的转角楼、龙王庙墩台保护较好，1981年被列为县级重点文物保护单位。
长城以它浩大的工程，雄伟的气魄和悠久的历史而举世瞩目。它作为中华民族龙的象征腾空而起，距岭摧涛，气象万千。它以轩昂气概，勇于冲突一切之势，遨游于茫茫中华大地中，使得炎黄子孙为之骄傲，使得龙的传人为之亢奋。
