南京脫險(xiǎn)后，廖耀湘趕到當(dāng)時(shí)的國(guó)府行政中樞武漢。1938年初，國(guó)民政府成立了第一支機(jī)械化師200師，這支部隊(duì)是當(dāng)時(shí)國(guó)軍裝備最好的，專(zhuān)門(mén)在法國(guó)進(jìn)修機(jī)械化作戰(zhàn)的廖耀湘任少將參謀長(zhǎng)。1938年9月，200師擴(kuò)編為新11軍，廖耀湘轉(zhuǎn)任22師副師長(zhǎng)。

1939年11月，昆侖關(guān)戰(zhàn)役打響，這是一次中日兩支鋼鐵部隊(duì)硬碰硬的交戰(zhàn)，當(dāng)時(shí)22師劃歸新5軍，軍長(zhǎng)杜聿明，22師師長(zhǎng)邱清泉，包括廖耀湘在內(nèi)，都在這場(chǎng)戰(zhàn)役中威名遠(yuǎn)揚(yáng)。

昆侖關(guān)位于廣西境內(nèi)，距南寧七十華里，周?chē)荷江h(huán)抱，地勢(shì)險(xiǎn)要。1939年12月4日，日軍占領(lǐng)昆侖關(guān)，直指滇、黔，威脅陪都的安全。昆侖關(guān)日前已被日軍搶占，直接威逼重慶。統(tǒng)帥部要求將昆侖關(guān)奪回來(lái)。同年12月18日，新5軍在其他友軍的配合下，向昆侖關(guān)猛攻，駐守昆侖關(guān)的是日軍第五師團(tuán)第二十一旅團(tuán)，號(hào)稱(chēng)“鋼軍”。進(jìn)攻的國(guó)軍主要是200師和22師兩支機(jī)械化部隊(duì)，此役廖耀湘表現(xiàn)非常搶眼，身先士卒帶領(lǐng)部隊(duì)打沖鋒。是役日軍4000余人被擊斃，旅團(tuán)長(zhǎng)中村正雄被擊斃，戰(zhàn)后從陣地搜索出他的日記本，中村如此記載：“帝國(guó)皇軍第五師團(tuán)第二十一旅，之所以在日俄戰(zhàn)爭(zhēng)中獲得‘鋼軍’稱(chēng)號(hào)，那是因?yàn)槲覀兊念B強(qiáng)戰(zhàn)勝了俄國(guó)人的頑強(qiáng)。但是，在昆侖關(guān)我應(yīng)該承認(rèn)，我遇到了一支比俄國(guó)軍隊(duì)更強(qiáng)的軍隊(duì)?！眲∽骷姨餄h事后采訪(fǎng)了廖耀湘，將其比喻成北宋名將狄青。

戰(zhàn)后論功行賞，邱清泉任新5軍副軍長(zhǎng)，廖耀湘升任22師師長(zhǎng)。

1942年3月，廖耀湘率22師遠(yuǎn)征緬甸，配合盟軍對(duì)日作戰(zhàn)，但戰(zhàn)局出現(xiàn)了逆轉(zhuǎn)，英國(guó)人決定放棄緬甸，新五軍西渡怒江，接應(yīng)200師從同古撤退，一場(chǎng)血戰(zhàn)后，回國(guó)的路已經(jīng)被日軍56師團(tuán)堵住，廖建議軍長(zhǎng)杜聿明沖擊防線(xiàn)，杜沒(méi)有采納，命令部隊(duì)進(jìn)入野人山。進(jìn)山22師尚有7000余人，在野人山中損失一半以上，四個(gè)團(tuán)長(zhǎng)都死在野人山突圍的途中。最后，杜聿明率軍部回國(guó)，廖耀湘帶領(lǐng)3000余人撤退到印度。新22師和先一步達(dá)到印度的孫立人的38師組成新1軍，軍長(zhǎng)鄭洞國(guó)。新22師在印度蘭姆迦整訓(xùn)。1943年10月，第二次緬甸戰(zhàn)役打響，廖耀湘率部向緬北挺進(jìn)，與新38師密切配合，二進(jìn)野人山，占領(lǐng)了胡康河谷，攻克于邦、下孟關(guān)、攻占瓦魯班……在整個(gè)緬甸反攻戰(zhàn)役中，新22師給日軍王牌18師團(tuán)毀滅性打擊，殲敵20000有余，一雪1942年初年兵敗野人山的恥辱。

緬北反攻勝利后，第14師和第50師空運(yùn)來(lái)到緬北反攻的前線(xiàn)，駐印軍擴(kuò)為兩個(gè)軍，和加上新22師組成了新六軍。廖耀湘任新6軍軍長(zhǎng)，隨后攻克八莫、南坎、芒市，打通了遍染鮮血的滇緬公路，此時(shí)，抗戰(zhàn)已接近尾聲，新6軍在戰(zhàn)火中成長(zhǎng)為國(guó)軍裝備最精良、兵員素質(zhì)最高的一支王牌軍。

1945年4月，雪峰山戰(zhàn)役打響。統(tǒng)帥部命令廖耀湘率新6軍從緬北空投到芷江，作為此次戰(zhàn)役的總預(yù)備隊(duì)。爾仗，主要是74軍、18軍、73軍、100軍等兄弟部隊(duì)打的。

雪峰山戰(zhàn)役完畢不久，《美國(guó)紐約時(shí)報(bào)》發(fā)表評(píng)論說(shuō)：“芷江會(huì)戰(zhàn)勝利佳音，可視為對(duì)日戰(zhàn)爭(zhēng)轉(zhuǎn)折之暗示。”不久，這段評(píng)論就被言中。1945年8月15日，日本天皇裕仁接受《波茨坦公告》，宣布無(wú)條件投降。

抗戰(zhàn)勝利后，一個(gè)重要的問(wèn)題是接收南京，史迪威的接任者魏德邁將軍認(rèn)為，日本當(dāng)時(shí)很?chē)虖垼⒉徽J(rèn)為他們失敗了，到南京去受降，部隊(duì)?wèi)?yīng)該有一種威懾力量。當(dāng)時(shí)中國(guó)部隊(duì)有威懾力量是新1軍和新6軍，新1軍還沒(méi)有回國(guó)，新6軍就在芷江，就在空軍基地。到南京幾個(gè)鐘頭航程就行了，應(yīng)該讓新6軍去。 于是廖耀湘率領(lǐng)新6軍被空運(yùn)到首都，接受日軍的投降。