第74军是1937年9月1日在浙江组建，由王耀武第51师（辖周志道151旅、李天霞153旅）和俞济时第58师（辖吴继光174旅、邱维达172旅）合编而成，俞济时任军长，冯圣法继任第58师师长。全军共8个团，2.1万人。其中第58师炮兵营有6门105毫米榴弹炮，在当时可是相当具有威力的重炮了，曾在淞沪会战中大显神威。

俞济时是黄埔1期毕业，浙江奉化人，蒋介石的外甥，是标准的嫡系，历任蒋介石侍卫大队排长、连长，侍卫大队扩编为警卫团后任营长、团长，后任第6师31团团长、南京国民政府警卫司令兼警卫1旅旅长，警卫1旅扩编为第1师后任师长，后改任第58师师长，而74军的骨干就是58 师。

74军成军不久就参加了淞沪会战，51师在罗店，58师在蕴藻滨，都是战线的关键之所，浴血奋战，尤其是51师无论在阵地防御还是在撤退中，均表现非常出色，当时有名的《申报》和《大公报》都曾报道过51师的英勇作战。

74军从淞沪战场撤出后，还来不及补充休整就投入南京保卫战，在湖熟镇、汤山镇、熟化镇等地与日军展开激战，多次击退日军进攻，南京沦陷后51师奉命突围，全师撤至浦口仅有4000人。

74军经过补充先后参加徐州、兰封会战。

1938年7月德安战役（又称万家岭战役）爆发。

......

战役开始前，蒋介石曾两次电令将74军调至后方休整，都被薛岳拒绝。战后著名作家田汉和任光曾以此战和张灵甫为原型编写了话剧和74军军歌。

战后著名作家田汉和任光曾以此战和张灵甫为原型编写了话剧和74军军歌。

军歌歌词如下：

起来，弟兄们，是时候了。我们向日本强盗反攻。他，强占我们国土，残杀妇女儿童。我们保卫过京沪，大战过开封，南浔线，显精忠，张古山，血染红。我们是人民的武力，抗日的先锋。人民的武力，抗日的先锋！

1939年6月俞济时升任第10集团军副司令兼86军军长，51师师长王耀武升任军长，74军下辖51师（李天霞）、57师（余程万）和58师（廖龄奇）。

王耀武，1903年出生，原字佐才后改字佐民，山东泰安人，黄埔3期，历任排长、连长、营长、团长，在第四次围剿战中率部孤军死守宜黄24天，受到蒋介石的接见，并升任第1补充旅旅长，1934年11月率部与红军北上先遣队激战，将其主力击溃，红19师师长寻淮洲阵亡，红2师师长胡天陶被俘。后任51师师长，在淞沪战役中因指挥果敢得当而深受好评。

1941年3月，74军参加上高会战，在战役中战功显赫，荣获国民政府第一号武功状和最高荣誉“飞虎旗”，被誉为抗日铁军。74军军长王耀武和第153旅旅长张灵甫旅表现优异，受到表彰。

上高会战之后，74军作为首批五个军之一换装苏式装备，得到115毫米榴弹炮4门，76毫米野炮8门，37毫米反坦克炮4门，7.62毫米M1910水冷式马克西姆（即“俄国版的马克辛”）重机枪25挺，7.62毫米M1910马克西姆?托加莱和M1928德克恰廖夫（简称为DP型，即常见的转盘机枪）轻机枪70挺。

1944年1月军长王耀武升任24集团军司令，施中城接任军长。下辖51师（周志道）、57师（李琰）、58师（蔡仁杰）。

1945年8月，日本投降，74军空运南京受降，并担任南京守备，因此被称为“御林军”。

1946年3月，74军改编为整编74师，全师3万余人，全副美械装备，师长张灵甫兼任南京警备司令，下辖整编51旅（陈传钧）、57旅（陈嘘云）、58旅（卢醒）。驻扎在南京孝陵卫，拱卫首都，被誉为天下第一师。

全师装备计有12门105毫米榴弹炮（卡车牵引）、36门75毫米山炮（吉普车牵引）、108门105毫米迫击炮（骡马牵引）、108门81毫米迫击炮（骡马牵引）、108门37毫米战防炮（吉普车牵引）、486门60毫米迫击炮、255具火焰喷射器、324具M1“巴祖卡”火箭筒、324挺7.62毫米勃郎宁M1917水冷式重机枪、1080挺7.62毫米1918A2轻机枪、2400支9毫米美制M1汤姆森冲锋枪和加拿大斯太令卡宾枪、4800支 7.62毫米M1903A1春田步枪，军官配9毫米勃郎宁M1911A1手枪。无线电报话机配备到连，共有机动车约300辆、骡马1000匹。