山丹马场历史悠久，史志典籍多有记载。《五凉志-沿革》载：汉阳大草滩即指古之大马营城堡，西至民乐永固堡，南屏祁连，北据胭脂（即焉支山），大马营草滩正处祁连、胭脂两山间。

秦汉之际，大马营草滩为月氏游牧地。西汉文帝前元三至四年（前177年~前176年），月氏败于匈奴，被迫西迁，匈奴浑邪王占据此地。

汉武帝元狩二年（前121年）三月，骠骑将军霍去病，出陇西（今临洮），经临津关（今青海循化县东刘家峡水库上游）渡黄河，沿青海北部上行穿祁连山，出大斗拔谷（今扁都口），转而攻打浑邪王，奔袭千里，将匈奴逐出焉支山。在激战中，杀死匈奴卢侯王、折兰王，俘获浑邪王之子及相国、都尉等，并缴获休屠王的"祭天金人"，斩首8960级。汉军亦损失惨重，死者十之六七。是年秋，单于震怒，欲诛杀浑邪王、休屠王。两王恐惧，共谋降汉。因休屠王反悔，浑邪王将其斩杀。合并其部，率众降汉。汉朝遂置牧师苑，牧养官马，大马营草滩始为汉朝官牧之地。东汉光武帝时，汉阳设流马苑，由羽林郎兼领。匈奴被逐出汉阳大草滩后，悲歌道："失我祁连山，使我六畜不蕃息；失我焉支山，使我妇女无颜色。"

西晋穆帝永和六年（350年），前凉张祚置汉阳县于今马营墩（军马三场西），一带，以守牧地。后张元靓改为祁连郡。

此后200余年间，因政权频繁更迭，战祸连年不断，大马营草滩养马业时兴时废，养马最多时达10万匹。隋文帝于开皇二年（582年），命大将屈突通整肃河西马政，大马营马场得以恢复。炀帝于大业三年（607年）下诏查问河西牧马情况。大业五年六月，炀帝在打败吐谷浑后，出大斗拔谷时，遇大风雪，士卒死者大半，炀帝之姊丽华（北周宣帝之皇后）也被冻死。炀帝在张掖召见了诸郡的四科举人后，到焉支山举行盛会。西域27国王公大臣，“皆令佩金玉，被锦罽”，在焚香奏乐的歌舞中，于道左谒见炀帝。又令甘凉士女艳饰纵观，周围数十里，"骑乘填塞"，极尽其盛。

唐初以俘获的突厥马2000匹和隋朝战马3000匹交马场孳养繁殖。广德至大中年间，吐蕃曾占据大草滩。

宋神宗天圣六年（1028年），西夏赵德明遣其子元昊夺甘州、占山丹，大草滩归于西夏。宋代实行茶马制，即设市场换取少数民族马匹。张掖、扁都口设互市（茶马市）。换来的好马充实军需，瘦弱的交马场孳养。

元代时，大马营马场由千户一名负责。

明太祖洪武四年（1372年），征西大将军冯胜克复河西后，在草滩边沿挖壕二百里，与民分界。

明成祖永乐四年（1406年），设陕西、甘肃两个苑马寺，下辖六监二十四苑。甘肃苑马寺下辖的宗水监（下设黑城等四苑）、祁连监（西宁、大通等四苑）、武威监（和西、大川、宁番、洪水四苑，监所设于大马营）、甘泉监（广牧苑等四苑）等，各占有大草滩部分牧地。

孝宗弘治十三年（1500年），都御史刘璋命卫都指挥武振修白石崖渠。弘治十七年，都御史督理陕西马政杨一清，奏请重建大马营城堡及大草滩各牧马场的公署（场部）、住房、仓库及马厩。同时招募牧马军人，以补足每场2000名牧夫的员额。此间查明大马营马场有草场133700余顷（合1337万多亩），马4万余匹。

清朝沿袭旧制，在各地设马场。康熙年间，先后有羌民及青海蒙古部族入据大草滩，后被官兵逐出，并在永固筑城防守。

大马营原为守备，康熙三十三年（1694年）改为游击，增戍兵500人，以守雪山要道。

雍正十一年（1733年），朝廷拟在西北筹建中央政府直属马场。陕西总督刘於义派原西宁知府黄澍查勘地方。黄澍查得青海摆羊戎、甘州大草滩（大马营草滩）和凉州黄羊川，报请批准后，于上述三地各建马场，甘州大草滩交甘州提标管理防护，由游击一员负责。乾隆十五年（1750年）曾将场部迁至古佛寺（今民乐双树寺），十八年复迁回大马营。

嘉庆七年（1802年），朝廷派人清查养马情况，大马营马场养马17500匹。宣宗道光十八年（1838年）达20000多匹。

道光二十五年（1845年）九月，谪戍新疆的林则徐被召回京，旋即受命署理陕甘总督。十二月到达甘州后，协助甘肃提督加强防务，并同往马场视察。

穆宗同治四年（1865年）至光绪年间，因俄博回民暴动，牧场多有战事，赖有官兵死守，虽有得失，终幸保全。

中华民国7年（1918年），甘肃督军张广建在回答陆军部关于马场的查询时说："甘州大马营，周围五六百里，不论冬夏，新旧牧草用之不尽。"陆军部要求张广建继续清查，着手建场。张遂接收马场，报请委任虞奎武为场长。次年十月，陆军部委任虞为山丹大马营"陆军部甘肃种马牧场"场长。后将海源、马衔山等场并来，改称甘肃军马孳养场。

民国18年（1929年），甘肃督办刘郁芬将甘肃军马孳养场迁至榆中马衔山，大马营马场遂沦为马步芳兄弟的私人牧场。23年，军政部长何应钦奉蒋介石令，筹建甘青牧场，指定大马营为场址，定名为军政部甘肃省合办山丹军牧场。次年1月，任命甘肃省建设厅技正宋涛（蒋介石侄女婿）为场长。后因与马氏兄弟多次交涉不果，无法收回牧场，遂将山丹军牧场暂设于永登松山，大马营为第一分场（实为虚名）。29年，中央政府颁布《十年马政计划》，宋涛才乘机收回大马营马场，派少校课员朱涤新筹建分场，从松山赶来母马1000匹，大马营马场复归中央政府经营。31年（1942年），大马营分场改为山丹军牧场，宋涛为场长，授少将衔。松山分场改为永登军牧场。33年（1944年）5月，马步芳兄弟矛盾日益尖锐，马步青气急之下，将个人经营、仍在场区放牧的马1329匹、牛189头、羊6606只，连同包括皇城滩在内的占地全部呈献中央。

35年（1946年），宋涛离任，永登军牧场场长石庭桂继任场长，升少将衔。同时山丹军牧场改隶联合勤务总司令部。时有伊犁、蒙古、日本及杂种种公母马4999匹，其中种公马480匹，种母马4519匹。另有幼驹及差役马6810匹。

1949年8月，人民解放军解放兰州，军牧场内分化为骑兵、畜牧两派，前者企图赶马逃跑，后者主张投诚。终由畜牧派控制局势。9月上旬，石庭桂乘吉普车去武威，被溃逃的军车压死，由副场长李赓明代理场长。

1949年9月21日，中国人民解放军第一野战军第二兵团三军到达大马营，山丹军牧场解放。时有官兵605人，养马9763匹，牛59头，羊2305只。