1895年12月，袁世凱向清廷提交了名為《為練新建陸軍上督辦稟》的報告，提出“必須參用泰西軍制，始可照西法操練”。在接手李鴻章新辦的“定武軍”之前，袁世凱表達了他對編練這支新式陸軍的思路。甲午戰爭敗績，洋務運動數十年成果北洋海陸軍盡沒。1894年11月，清政府下令成立“督辦軍務處”，以恭親王奕為督辦，慶親王奕劻為幫辦，翁同龢、李鴻藻、榮祿等人為會辦，“參酌中外兵制”，著手編練新軍。清廷軍務處建立后，朝中地方大員曾有過一次關于軍事改革的大討論。重練西式新軍費力費錢費時，多數大臣并不熱心。首先提出軍制改革的人并不是袁世凱，而是受命在天津辦理東征糧臺的廣西按察使胡燏棻。

《清史稿·兵志》載，胡燏棻在1895年倡議，建立一支在軍械和軍制上都沿襲西方部隊的新型陸軍。他建議在北洋轄區訓練5萬人，在南洋轄區訓練3萬人，廣東和湖北各訓練2萬人，其余省份各練1萬人。胡燏棻在編練定武軍時指出了清朝舊軍隊的荒謬：“軍需如故，勇額日缺，上浮開，下折扣，百弊叢生。”當時湘、淮各軍武器裝備混亂，陣法陳舊，“同屬一軍，而此營與彼營之器不同，前膛后膛，但期備數，德制奧制，并作一家”，“攻守之法，又沿舊習”。顯然，這些問題早是積習，如果不是甲午之敗，國將不國，胡燏棻的軍制改革也不會有任何回音。

1894年11月，胡燏棻接到清政府督辦軍務處令其“主練兵”的任命，在天津附近馬廠屯駐，募兵訓練，聘德員漢納根為教習，開始編練新式軍隊。次年春，胡燏棻初步編練成“定武軍”，于9月移駐距天津東南70里處的新農鎮小站，那里原是淮軍周盛傳、周盛波所統領盛字營的駐地。鑒于舊軍隊的弊端，胡燏棻在編制、訓練、戰術、武器等方面均一改湘、淮各軍的舊習，而使用德國陸軍的模式。據他在向清廷的上奏中稱：“此次創練新軍，一切操練章程，均按照西法辦理。”然而胡燏棻練兵不到一年，定武軍的軍權就轉交給了袁世凱，決策的原因，是清廷認為，袁世凱更懂軍事。

在清末大臣中，胡燏棻算是視野開闊，頗有胸懷，然而他畢竟沒有近代軍事的學識和軍旅歷練。當時清廷真正懂得西方近代軍事知識的將領也是鳳毛麟角。對于現代軍事人才的匱乏，清末中國軍事歷史研究者、美國軍官拉爾夫·鮑威爾指出了長期以來清代選擇將領的缺陷：“中國人的失著是假定只需有蠻力和勇氣就可以成為將才”，武舉考試的核心就是舉石鎖和拉弓射箭之類。

實際情況更糟。由于綠營武裝已腐朽多年，依附綠營制度的武舉制度選拔出來的武生很難在傳統軍隊中找到職位。“至少是在19世紀末期，多數武舉出身的人都沒有在軍隊中服役，而正式的將領則很少有人出身武科。”人才匱乏如此，袁世凱此時被舉薦編練新建定武軍，不過是他此前在朝鮮有限的軍事經歷，讓他獲得了“知兵”的聲譽。

然而自強軍很快被朝廷調歸湘軍領袖劉坤一指揮。即便如此，張之洞在1898年再次上奏，表示他將繼續編練新軍。他甚至已經為這支部隊安排了穩固的財政來源，約每年70萬兩白銀。這些經費包括江蘇、江西、安徽三省裁撤勇營節省下來的20萬兩，由蕪湖米厘金指撥12萬兩，蘇州與上海米厘金指撥38萬兩。令人感動的是，張之洞的熱情并非要培植私人勢力，而是出于對國家安全的遠見和國家命運的責任感。朝廷回應的卻是猜疑，這反倒正是中國歷史千百年頗有諷刺意味的常態。大清帝國對張之洞等人不信任的根源，在于這個少數民族入關立國后，最擔心的是臣民(被壓制的漢人)的反叛，而不是外國的入侵。

張之洞的一廂情愿也是太平天國后，清廷中央權力向地方轉移帶來的后果。由于內外戰爭導致湘軍等半私人武裝的興起，削弱了清末的中央權力，導致朝廷和地方權力分配的變化。一個前所未見的情形是滿漢官員數量比例發生了顛倒。1861到1890年，清廷任命的44個總督中，有34個是漢人。同一時期朝廷任命的117個巡撫中，漢人占了104個。其次是出身行伍的人日益掌控實權。上述34個漢人總督中，許多出身鄉勇而非科舉這類傳統仕途，而104名漢人巡撫中，有1/4的人甚至從沒有考中過進士甚至舉人的功名。當朝廷的軍事、經濟開始為漢族大臣所掌控時，張之洞的努力可以說完全沒有摸到滿族統治者的心意。

無論是張之洞被辜負的忠誠，還是袁世凱對北洋軍一己之私的培植和經營，清廷其實應負最大責任。從重建新軍開始，清廷的核心目的并非強國強兵，不過是試圖將帝國被分散的武力收回朝廷用以防民防臣，以致同為新軍，朝廷卻厚此薄彼，空讓忠臣白頭，讓能臣異心。一個國家政府內心如此陰暗叵測，在內憂外患時仍以私利凌駕于國家利益，縱有10個張之洞又如何能改變中國現狀？縱有10個袁世凱，又焉能不讓其私懷反心？

1882年，隨吳長慶前往清帝國屬國朝鮮的袁世凱參與平定“壬午軍亂”，后被吳長慶推薦，以“通商大臣暨朝鮮總督”身份留在朝鮮。當時在日本陰謀策劃下，朝鮮獨立派在1884年12月發動“甲申政變”，由日本公使竹添支持，挾持朝鮮國王到景福宮，迫使朝鮮國王召請日本大使進宮保衛。當時在朝鮮獨當一面的袁世凱一面上書李鴻章請求派兵，一方面致書日本公使。未見答復后，他果斷率兵進朝鮮王宮，營救出被挾持的朝鮮國王，迫使日本公使竹添逃往仁川。

這種班超式的舉動贏得了李鴻章的認可。林明德在《袁世凱與朝鮮》中說，袁世凱當時年僅25歲，“竟能號召中國駐防各營，并策動朝鮮左右兩營勤王，在軍事上，甚至外交上做詳盡周密的部署，發號施令，統馭中韓聯軍，擊潰日軍，摧毀政變集團的勢力，拯救韓王，恢復李熙政權，同時維持漢城的治安。實為難能可貴”。甲午戰前，湘軍和太平天國、淮軍和捻軍的交戰雖然持續多年，綿延多省，死亡千萬，但在當時西方軍人看來，不過是烏合之眾的相互殘殺。甲午戰爭中北洋水師雖然顯示出近代化海軍的戰斗力，但中國陸軍唯一的“精銳“--淮軍卻和日軍交手一觸即潰。西方軍事觀察家由此普遍認為，從袁世凱小站練兵開始，中國陸軍才向真正近代意義上的陸軍發生轉變。

過去湘軍、淮軍也以西方武器武裝，請西方教官操練，但部隊編制并未完全和西方軍制接軌。比如湘軍以營為單位，不分兵種，每個營的兵員可以幾百到上萬不等。胡燏棻由于練軍時間太短，這方面也沒有根本改變。袁世凱新建陸軍雖然依舊沿用了淮軍的營務處、營、隊、哨、棚等傳統中式編制名稱，但編制上和舊軍完全不同。新軍不但設立步、馬、炮、工、輜等多兵科兵種，還首次在軍中成立參謀機構，以軍事專業人才取代了以文人為參謀師爺，以西方近代軍事的戰略戰術，而不是中國傳統兵法謀略統軍作戰。在清末編練近代化新式陸軍過程中，張之洞和袁世凱一南一北，本來成就難分伯仲，但前者無意經營私人勢力，后者卻最終成為軍閥起源，最終復辟稱帝，導致聲名盡毀。

1895年12月27日，張之洞在給朝廷的奏折中就表示，他建議在德國教官的幫助下建立1萬人的新軍，并表示他已經按這種編制建立了13營的“自強軍”。張之洞積極建立新軍，主要是擔心日本入侵長江流域。這支由“步隊八營、馬隊二營、炮隊二營和工程隊一營”組成的混成部隊全部以歐洲武器裝備。軍隊建制模仿德國，不但由工程部隊替代了傳統的挑夫，還計劃編制醫官、獸醫和軍械維修人員。張之洞謀劃深遠，他還計劃在訓練半年后，由洋人教習繼續訓練新軍，而已經訓練成的部隊則由中國軍官管轄。如此一則保證訓練的質量，同時也避免部隊大權為洋人掌控。