據(jù)史料記載,大營古城始建于北宋時期,當(dāng)時屬軍寨,傳說是宋代楊家將老令公的大營。在當(dāng)?shù)赜袀€說法,即先有大營城,后有固原城。大營城即宋夏時期養(yǎng)馬城,為鎮(zhèn)戎軍戰(zhàn)馬主要放養(yǎng)地,宋夏定川寨之戰(zhàn),宋軍主力葛懷敏部曾駐軍三天于此。元末明初,固原一帶因戰(zhàn)亂,地廣人稀,水草茂盛,明太祖朱元璋便把固原一帶分賜予諸藩王為牧場。明洪武十一年(公元1378年),朱元璋賜封十四子朱英漢王為肅王,封地甘州。
2005年,自治區(qū)人民政府將大營古城列為重點文物保護單位。昔日大營古城的護城河——大營河在變成季節(jié)性河流后,當(dāng)?shù)匦蘼犯憬ㄔO(shè)就到大營河取沙,僅取沙深度就達5米多,加之周圍加工廠排放污水,大營古城昔日雄姿難顯,還面臨被侵蝕破壞的問題。
2013年05月,成為第七批全國文物保護單位。