該師前身為國民政府軍事委員會直屬戰車營(營長彭克定)。1936年1月，該營改歸交輜學校指揮。1937年3月，該營與交通兵第2團裝甲汽車隊改編為裝甲兵團(團長杜聿明)，由軍政部直接指揮。

1938年1月，該團于湖南湘潭擴編為第200師(五團制，20000余人)，以原團長杜聿明擔任該師首任師長。該師為我國第一個機械化師，由軍事委員會直接指揮。

該師前身為國民政府軍事委員會直屬戰車營(營長彭克定)。1936年1月，該營改歸交輜學校指揮。1937年3月，該營與交通兵第2團裝甲汽車隊改編為裝甲兵團(團長杜聿明)，由軍政部直接指揮。

1938年1月，該團于湖南湘潭擴編為第200師(五團制，20000余人)，以原團長杜聿明擔任該師首任師長。該師為我國第一個機械化師，由軍事委員會直接指揮。4月，該師在上高與第20軍團開展聯合軍事演戲，以測試對機械化部隊的運用。5月，該師抽調戰車營、工兵營、裝甲汽車隊、高射炮隊、摩托搜索隊、戰防炮營、步兵營各一，組成突擊軍第1縱隊，由副師長邱清泉率領北上開赴蘭封與日軍作戰。是月下旬，該縱隊在貴李寨、羅王寨、三義寨等地初露鋒芒，配合友軍擊退日軍土肥原師團，收復圈頭水口、三義寨等地。6月，該縱隊轉移開封。既而移駐鄭州。9月在信陽配合友軍作戰。此后該部開赴陜西由第1軍指揮，脫離第200師建制。11月，該師擴編為新編第11軍。師長杜聿明升任新11軍副軍長，以第89師副師長戴安瀾繼任師長。改編后該師開赴廣西全州整訓。

1939年3月，該師開赴廣西界首參加全國軍隊校閱，第5軍名列第一，該師為第5軍第二名。9月，該師擬開赴湖南衡山，擬參加第一次長沙會戰。該師抵達后會戰已經結束，乃就地待命并接受第9戰區司令長官檢閱。11月，該師作為第二期整訓部隊，接受第9戰區前敵總司令羅卓英督練。是月中旬，日軍在廣西欽州灣登陸，該師緊急車運南寧，配合友軍第135師協同守備南寧城郊。12月中旬，日軍第5師團騎兵第5聯隊、第21聯隊一部占領昆侖關，該師奉命集結于三塘參與對昆侖關的反擊作戰。當榮譽第1師因傷亡慘重退出戰場后，該師接替任務，在坦克的協同下繼續攻擊昆侖關。是月下旬，該師將日軍分割包圍，并斷絕日軍補給線。隨后在友軍榮1師、新22師、第159師的配合下對昆侖關發起總攻，與日軍三次爭奪昆侖關，終于在1939年的最后一天完全收復昆侖關。是役，第600團團長邵一之在攻擊二塘附近日軍陣地時不幸陣亡。

1940年1月初，該師在昆侖關經過短暫休整后繼續加入對昆侖關附近之八塘的進攻。但是因日軍增加守備力量，該師經過7天的連續沖鋒，最后因部隊損失慘重，被迫將防務交由第36軍接替，該師后撤整補。4月，該師因在昆侖關的所受損失過重(兵員損失近三分之二)，開赴湖南祁陽接受新兵開始長時期的整補。

1941年6月，該師移駐貴州安順。12月，移防云南保山。

1942年3月初，該師附軍屬騎兵團、工兵一個營入緬支持英軍作戰，接替英軍在同古(又稱東吁)的防務。是月下旬，該師在同古以北與日軍第55師團發生戰斗。經過三晝夜激戰，數次擊退日軍第55師團112聯隊的進攻，但是自身也為日軍第112聯隊包圍，聯絡補給均告中斷。在友軍新22師、第96師解圍失敗后，該師最終奉命突圍，其余奉命掩護撤退之部隊最后皆奮戰殉國。第200師在同古堅守12天，迫使日軍第112聯隊停止進攻，等待第56師團的增援。同時，該師成功掩護友軍英緬軍第1師一部逃出日軍包圍圈。4月下旬，該師奉命進攻東枝，經3天激戰，擊退日軍第113聯隊，收復東枝。隨后該師向雷列姆以北攻擊前進。不久東枝再次為日軍攻克，孟瑙也隨之失陷。第200師此時奉命以一部攻擊臘戎當面之日軍，并以一部固守臘戎，掩護第5軍、第6軍向我國云南撤退。5月上旬，該師向八莫、南坎撤退，途中與第5軍補訓處回合，并沿途收容第6軍、第66軍散兵1000余人。在該師穿越昔卜、摩谷公路時，遭到日軍第56師團伏擊，部隊被打散，團長柳樹人陣亡，師長戴安瀾在負重傷后為參謀長周之再救出。6月中旬，該師殘部經過艱難的撤退終于抵達云南永平(第200師入緬之役損失5000余人)。師長戴安瀾在撤退途中因傷重無法救治而亡，以副師長高吉人繼任師長。該師在遭受昆侖關、緬甸兩次重創后，骨干大量損失，此后該師移駐昆明近郊——馬街，開始了長期編練，部隊官兵擴編至12000余人。

1944年8月，為策應駐印軍對日軍的反攻，該師開赴保山集結，隨后康復前線協助友軍作戰。9月初，該師加入對于龍陵的戰斗。由于該師初到戰場，未明前線形勢，陡遭日軍反擊，其先行加入戰斗的先頭團第599團被日軍迅速擊潰，其中兩個營損失慘重，營長皆陣亡。隨后該團殘部被配置在5412高地，奉命以殘破部隊對日軍發起反擊，又遭日軍挫敗。是月中旬，該師第600團、第598團先后抵達，旋即對日軍發起新一輪進攻，在炮兵的掩護下先后奪取三個高地，并收復龍陵老城和文筆坡。隨后該師奉命固守陣地，并補充第599團。10月中旬，該師在得到第5軍軍屬工兵營、炮兵營、通訊營、戰防炮營的支援下，開始向非吹坡、老龍潭等地攻擊前進。11月初，該師在相繼收復老龍潭、石老虎、老糧臺后向芒市迂回。于是月中旬收復芒市后在螞蝗山遭到日軍反擊，在擊退日軍的進攻后該師乘勝追擊，并于12月初收復遮放后繼續向前攻擊，陸續收復雙坡、拉隆、邦打、拱撒、河邊寨。

1945年1月中旬，該師以奇襲的方式攻占日軍重要據點回龍山。隨后該師配合友軍收復象鼻山、腰子山、冷山等日軍據點。畹町為友軍第2軍收復后該師回駐昆明市郊。3月，該師換裝美械。師長高吉人升任第5軍副軍長，以第49師師長羅友倫繼任師長。4月，師長羅友倫調任第207師師長，以美國戰車學校畢業生廖慷繼任師長。8月，日本宣布無條件投降，該師移駐羅次。9月，昆明防守司令杜聿明奉命以武力解決龍云所部，該師即在駐地以宴請滇軍炮兵團為名，命臨時受該師節制的第96師287團將該炮兵團繳械。第600團團長董瀚因空難殉職。10月杜聿明調任東北保安司令長官，該師抽調第598團作為司令長官部特務團脫離建制。該師另抽調所屬第599團、第600團各一部作為基干新編第598團。

1946年3月，第5軍各部開赴武漢，該師被留駐云南開遠，負責滇南地區的守備任務，暫由昆明防守司令部節制。10月師長廖慷調任第45師師長，以副師長熊笑三繼任師長。12月，該師北開武漢，歸還第5軍建制，負責清豐至濮陽之間公路沿線的護路任務。

1947年1月，該師移防徐州。4月，奉命向梁山出擊。當梁山為友軍第96師攻克后，該師作為第5軍左路部隊繼續追擊撤退的解放軍，但是卻被解放軍阻擊部隊牢牢牽制，無法前進。直到解放軍主力撤過黃河后，該師才得以前行，并以所屬第600團渡河追擊解放軍。5月，該師轉入魯中，進駐新泰，旋向羊流店攻擊前進，既而協同友軍第45師攻占萊蕪，再向博山攻擊前進。6月下旬，該師奉命掩護友軍整11師左后方向解放軍沂蒙山區進攻。7月，該師向泗水攻擊前進，既而后方發現解放軍游擊部隊，逐回駐博山清剿。是月下旬，友軍整編第84師一部在汶上為解放軍圍攻，該師奉命并向濟寧發動攻擊，以配合第45師前往解圍。8月下旬，該師以所屬第600團擔任主攻奪取濟寧后向西追擊解放軍，在厲家崗、徐家莊、沈官屯與解放軍交戰10余次，接連獲勝。隨后從白浮圖出發，迅速抵達郭莊向解放軍發動猛攻，成功為整84師解圍。9月，該師在袁口整編為第200旅，原師長熊笑三改任旅長。整編后該旅又向丁里長發動攻擊，在打退解放軍的反擊后，該旅即乘勝攻占丁里長。11月，該師駐防于魯西地區開始休整。

1948年4月，旅長熊笑三升任整編第5師副師長，以整編第5軍副參謀長兼交通輜重兵團團長張毓英繼任旅長。5月，解放軍攻擊民權，該旅奉命開拔越隴海路進入豫東協助友軍作戰。6月，解放軍攻擊定陶，該旅又回援山東。入魯后該旅于曹縣集結，隨后向馬樓發起攻擊。由于解放軍利用地形構筑據點、鹿砦，該旅往往是以慘重代價才得攻取一、二據點，整200旅在此與解放軍膠著7天才攻克馬樓繼續進擊。是月中旬，開封為解放軍攻克，該旅奉命向西南迂回，企圖截擊由開封撤退之解放軍，但是未能完成任務。6月下旬，該旅奉命進攻杞縣以南之桃林崗，由于旅長張毓英將兵力逐次使用，遭受解放軍猛烈還擊，經一天攻擊，所部傷亡慘重，仍未能前進一步。旅長張毓英當即被撤職查辦，以整編第96旅副旅長周朗繼任旅長。同時將該旅改為預備隊使用。7月初，區壽年兵團為解放軍殲滅后，該旅奉命除留第600團牽制解放軍外配合友軍向解放軍迂回攻擊，隨后負責牽制的第600團與迂回部隊分進合擊，終于將解放軍擊退。9月，濟南告急，該師由商邱救援，但是部隊未到濟南已告失守，逐回駐原防。不久該旅恢復第200師番號，原旅長周朗改任師長。11月初，該師在向黃口移動時，其所屬一個營被解放軍包圍，經友軍第45師解救脫離危險。是月中旬，該師集結與徐州。隨后為解救友軍第7兵團，沿林佟山麓攻擊前進。不久該師在林佟山山腰遭到解放軍頑強阻擊，經兩天戰斗始突破阻擊陣地繼續東進。是月下旬，第7兵團被殲，該師回防徐州。當第12兵團被圍后，該師開始撤守徐州，不料在至陳官莊附近時被解放軍包圍。團長劉屏玉在指揮部隊集結時陣亡。該師在占領張廟堂陣地后，即以此為核心陣地固守。

1949年1月9日，解放軍對陳官莊的國軍發動總攻擊，該師與軍部的通信被迅速切斷。隨后在通信兵的聯絡下得知軍部下達了“停止戰斗，自行設法”的命令后，由師長周朗率領開始突圍。但是不久之后即被解放軍包圍殲滅，團長劉明德陣亡;師長周朗、團長蔡香清在衛兵的保護下僥幸逃出包圍圈，但是旋即為地方民兵俘虜;副師長麻心全化裝脫逃。該師另有一部500余人由團長熊道存率領逃至蕭水被擊潰，熊道存被俘。