在中國，軍訓最早可追溯至夏商時期。
根據記載，在商代，由於諸侯間戰爭增多，統治者對軍事訓練日益重視，除了對正規軍隊進行訓練外，還通過學校對各級貴族進行軍事教育。
從西周開始，官學分『國學』與『鄉學』，並有『小學』和『大學』兩級。
其中的 『大學』，即以『六藝』為標準課程，『禮、樂、射、禦、書、數』成為學生需要掌握的六種基本才能，其中的射、禦，即為古代的軍訓，教師一般直接由軍官擔任。
到了諸侯紛爭的春秋戰國時期，『兵者，國之大事，死生之地，存亡之道，不可不察也』。
各國更加重視軍事人才教育和訓練，軍訓成為官辦學校教育的重要內容，就連孔子的『民辦學校』私學也很重視軍訓。
孔子作為中國國民教育的開創者，他在教育過程中，將射禦之術看得與禮樂教化一樣重要，《孔子家語·觀鄉射》就記載有孔子教射的內容。
孔子說，『射禦足力則賢』，把軍事技能優劣，視為一個人賢能與否的標志，認為『以不教民戰，是謂棄之』。
孔子曾在矍相的園圃親自教弟子學習射箭的事，他在教弟子習射的同時，還不失時機地對民眾進行禮的教育。
可見，孔式教育理念是講究文武兼修的。
秦漢時，統治者對學生軍訓的重視程度逐漸減弱，學校軍訓則開始走下坡路，隨著儒家學術被奉為正統，『六藝』也變身為儒學六經，軍事教育內容消失，軍訓的職能弱化為一種禮儀程式。
其實，秦在建立統一政權之前，仍對軍訓十分重視。
但在一統天下之後，除加強邊防，用兵的機會變得極少。
為防范平民造反，便下令拆除各諸侯國的城郭，收繳天下兵器，連老百姓家的菜刀也是幾家合用。
雖然秦漢時期學校軍訓逐漸蕭條，卻並未廢止，因為在地方學校教育中仍有軍訓的內容。
東漢王莽執政時，每年春秋之際，經學家劉昆都會帶領五百多名弟子習武，以致王莽懷疑其圖謀不軌，把他及家屬都關了起來，也就是說，當時連民辦學校都不能從容搞軍訓了。
不過可見，私學以傳授經書為主，但也包括射禦等軍事訓練的內容。
隋朝時更是開始『偃武修文』大力削減武力裝備，國家教育重點由學武轉為修文，科舉也逐漸開始成為主流。
唐朝在開國之初便確立了戰時重武、平時重文的國策，但唐太宗李世民於貞觀元年(627年)曾說：『朕雖以武功定天下，終當以文德綏海內』 唐朝的取士之法仍偏科舉，學校淪為科舉附屬品，軍訓廢止。
此外，理學開始萌芽，逐漸形成重讀書輕實踐，重靜坐輕活動的教育理念。
武則天時，文武科舉分開，文舉不考武藝，為謀取功名，學生們無暇學習軍事課程，軍訓漸被棄之不顧。
到了宋朝，興文教、抑武事的政策被推向高潮，武將地位被書生士子全面趕超。
宋太祖認為，武將握兵權而強，君主失軍權而弱，為保趙氏江山穩固長久，必須鏟除藩鎮割據勢力，堅持崇文抑武的國策。
而且宋代程朱理學主張『內無妄思，外無妄動』，憎惡尚武之風，把習武與賭博等同，視之為無益之事，禁止學生參加。
學校以科考為主，一切以中舉為導向，讀書人『兩耳不聞窗外事，一心隻讀聖賢書』，軍訓自然廢止，尚武之風偃旗息鼓。
明清之際的教育家顏元曾對此深惡痛絕地說： 『朱子重文輕武，……，其遺風至今日，衣冠文士羞與武夫齒，秀才挾弓矢出，鄉人皆驚，甚至子弟騎射武裝，父兄便以不才目之，長此不返，四海潰弱，何有已時乎?』
明、清兩朝開國皇帝都以武得天下，自然重視學校的軍事教育，朱元璋力圖在學校恢復孔子的『六藝』。
他在洪武三年(1370年)批示，要求國子學和縣學學生都要習射，命國子監辟射圃賜諸生弓矢，並在科舉考試中加試『射』、『騎』科目，有了考試的引導和政府對器械的投入，促進了學校軍訓的發展。
清承明制，開國之初舉辦教育是文武並重。
從官學、國學到地方學，學校的課程多數是文武兼備，都開設騎射課。
文科考試先試騎射，八旗子弟武功不及格者不能參加文科考試，風氣所及，學校軍訓熱情大為高漲，民間也競相效仿。
一些學校除了開設騎射課，還開設武術、舉重等必修課，致力於培養文武全才。
但是，武功根本敵不過科舉八股，軍訓成了形式主義。
明、清初的學校軍訓終究未能從復興走向發展，這是因為程朱理學仍是明清社會的顯學。
終明一代，程朱理學都受到最高統治當局的極力推崇，仍是『半日讀書，半日靜坐』。
到了清末，清政府慘遭列強羞辱，1894年，中日甲午戰爭的慘敗更是讓全國上下意識到了『強兵尚武』的重要性，遂又興起一波尚武的小高潮。
1902年，蔣百裡發表《軍國民教育》一文，明確提出軍國民教育的實施應通過學校教育，訓練學生行軍、射靶、擊劍、野外演習等能力。
清政府於1906年頒佈《教育要旨》，把尚武教育正式列入教育宗旨，正式頒佈學校軍訓的辦法。
中華民國成立後，1912年1月19日，頒佈《普通教育暫行法》，明確規定『高等小學以上體操應註重兵式』。
同年9月，正式將軍事教育列入教育宗旨，令全國各學校註重軍訓。
許多學校還組織了『少年義勇團』或『童子軍』，借以培養學生的尚武精神和軍事技能，學校軍訓迅速展開。
然而，一戰結束後，全世界興起一股反對戰爭的潮流，中國的軍國民教育思潮也一度衰弱。
1919年，一項權威調查結果表明，教育界普遍認為：『現在歐戰之後，軍國民教育不合民本主義，已為世界公認。
中國教育宗旨，亦應順應世界潮流』至 1920年，全國教育聯合會議把『尚武』從教育宗旨中刪除。
隨後，1922年頒發的《壬戌學制》取消了『軍國民教育』，學校軍訓又隨之停滯。
軍訓的再度復興是在1929年。
當時，日本對中國虎視眈眈，軍事教育受到空前的重視。
當年1月，國民政府頒佈了《修正高中以上學校軍事教育方案》，其中規定，『凡大學、高級中學及專門學校、大學預科並其他高等以上學校，除女生外均應以軍事教育為必修科目』，『每年暑假期內，各校學生應受連續三星期之嚴格訓練』。
1931又頒佈了《教育部關於高中以上學校加緊軍事教育的通令》。
希望通過軍事訓練，『鍛煉學生身心涵養、紀律、服從、負責、耐勞諸觀念，提高國民獻身殉國之精神，以增進國防之能力』。
當時，所有大學、高中等學校的男生均應以軍事教育為必修科目，每年暑假進行連續三周的軍訓，教官則由陸軍學校畢業生擔任。
訓練項目包括傳授軍事學識的技能和培養優良德性及生活習慣，前者包括學科和術科。
學科有步兵操典、野外勤務、射擊教范、防空常識、戰車常識、衛生急救等。
術科有徒手教練、持槍教練、測圖實施、彈藥射擊、夜間演習等等。
當時的軍訓成績考核極其嚴格，不及格的學生要隨下一屆學生重新訓練，若至畢業時仍不及格，則不準畢業;凡高中以上學生軍訓不及格者，不得投考大學。
抗日戰爭全面爆發後，全國統一的軍訓中斷了，直到抗戰勝利之後才重新開始。