自漢武帝派霍去病打通河西走廊，設(shè)立河西四郡（敦煌郡、酒泉郡、張掖郡、武威郡）以來(lái)，歷代中原王朝都把經(jīng)營(yíng)河西走廊作為一項(xiàng)十分重要的國(guó)策。因?yàn)楹游髯呃炔粌H承載著溝通西域，乃至歐洲的貿(mào)易功能，也承擔(dān)著打斷北方草原游牧民族右臂以保衛(wèi)關(guān)中地區(qū)的軍事使命。

在唐朝時(shí)期，隨著吐蕃王朝的崛起，河西走廊的南方出現(xiàn)了新的威脅。唐朝前期，吐蕃雖對(duì)河西走廊和西域存在嚴(yán)重的威脅，但唐朝憑借著強(qiáng)盛的國(guó)力始終都能牢牢守住這片區(qū)域。

安史之亂（755—763年）爆發(fā)后，唐朝駐守河西走廊和西域的精銳部隊(duì)被調(diào)往內(nèi)陸鎮(zhèn)壓叛亂，吐蕃趁機(jī)對(duì)這片區(qū)域發(fā)動(dòng)勢(shì)如破竹的進(jìn)攻，僅用短短幾年時(shí)間就占領(lǐng)了大部分城池和土地，對(duì)這片區(qū)域取得絕對(duì)優(yōu)勢(shì)。

然而駐守河西走廊和西域的唐朝將士并沒(méi)有那么輕易屈服于吐蕃，他們雖然與長(zhǎng)安已經(jīng)失去聯(lián)系，但是依然頑強(qiáng)抵抗，做著最后的努力。沙州（今甘肅敦煌）的將士抵抗11年后才投降吐蕃，安西（今新疆庫(kù)車(chē)）和北庭（今新疆吉木薩爾北破城子）兩都護(hù)府的將士則在抵抗20多年后才徹底失敗，吐蕃這才完全占領(lǐng)河西走廊和西域。

即便唐軍完全失敗，河西走廊的百姓們依然對(duì)唐朝念念不忘。822年，與吐蕃議和的唐朝使者劉元鼎路過(guò)龍支城（今青海西寧市東南）時(shí)，一千多個(gè)老人攔住劉元鼎，向大唐天子問(wèn)安，哭著問(wèn)道：“頃從軍沒(méi)于此，今子孫未忍忘唐服，朝廷尚念之乎？兵何日來(lái)？”此情此景，讓劉元鼎不禁感慨萬(wàn)千，潸然淚下。

842年，吐蕃王朝在內(nèi)亂中走向崩潰瓦解。河西走廊的百姓不堪吐蕃人的壓迫，開(kāi)始想方設(shè)法脫離吐蕃人的統(tǒng)治，重新回到唐朝的懷抱。848年，沙州人張義潮領(lǐng)導(dǎo)漢人起兵，擊敗吐蕃人，成功攻占沙州，并派使者抵達(dá)長(zhǎng)安，和唐朝取得聯(lián)系，被唐宣宗任命為沙州防御使。三年后，張義潮又收復(fù)瓜、伊、西、甘、肅、蘭、鄯、河、岷、廓十州，使河西走廊重新回到唐朝的懷抱。

唐宣宗聞?dòng)嵈笙玻谏持葜脷w義軍，以張義潮為歸義軍節(jié)度使、十一州觀察使，授予張義潮治理河西走廊的大權(quán)。張義潮內(nèi)撫百姓，使河西走廊重新恢復(fù)生產(chǎn)，外抗不斷進(jìn)犯歸義軍的吐蕃、黨項(xiàng)、吐渾、回鶻等游牧民族軍隊(duì)，繼續(xù)為唐朝收復(fù)失地。

863年，張義潮親自率領(lǐng)蕃、漢兵七千人東征涼州（今甘肅武威），趕走吐蕃人，占領(lǐng)涼州城，于是完全收復(fù)河、湟地區(qū)。866年，張義潮派回鶻人仆固俊西征西域，相繼收復(fù)西州、庭州、輪臺(tái)、清鎮(zhèn)等地，使唐朝的旗號(hào)重新又回到西域。

867年，張義潮入朝，把歸義軍的軍政事務(wù)交給侄子張淮深打理。五年后，張義潮在長(zhǎng)安離世，享年73歲。

張淮深掌管歸義軍后，沒(méi)能處理好和仆固俊的關(guān)系，仆固俊在西州自立為可汗，脫離歸義軍的統(tǒng)治，建立起西州回鶻。876年，西州回鶻攻陷伊州（今新疆哈密），歸義軍的勢(shì)力從此走向衰落。

890年，張淮深的女婿索勛發(fā)動(dòng)政變，殺死張淮深，擁立張義潮的兒子張淮鼎為節(jié)度使，并在兩年后自立為節(jié)度使。894年，張義潮的女兒再次發(fā)動(dòng)政變，擁立張淮鼎的兒子張承奉為節(jié)度使。

當(dāng)歸義軍陷入衰落和動(dòng)亂時(shí)，甘州回鶻也脫離歸義軍的統(tǒng)治，趁機(jī)擴(kuò)張自己的勢(shì)力，不斷攻城略地。張承奉成為節(jié)度使后，歸義軍已經(jīng)只剩下沙州和瓜州兩座城池了。

唐朝滅亡后，張承奉在910年自立為白衣天子，建立起西漢金山國(guó)。張承奉有心恢復(fù)歸義軍舊日疆土，與西州回鶻和甘州回鶻同時(shí)為敵，最后卻被甘州回鶻可汗擊敗，甘州回鶻可汗趁勝兵臨沙州城下，逼張承奉向自己稱(chēng)臣納貢，張承奉從此改稱(chēng)為敦煌國(guó)天子，淪為甘州回鶻可汗的兒皇帝。

914年，張承奉去世，曹議金掌管沙州和瓜州，取消敦煌國(guó)的國(guó)號(hào)，仍自稱(chēng)歸義軍節(jié)度使，并派人和中原王朝取得聯(lián)系。此時(shí)的歸義軍被西州回鶻和甘州回鶻夾在中間，勢(shì)單力薄，岌岌可危。曹議金不再試圖收復(fù)歸義軍全境，而是改為保住沙州和瓜州，通過(guò)多邊外交的策略穩(wěn)定了歸義軍。曹議金后來(lái)多次領(lǐng)兵擊敗甘州回鶻，使歸義軍的勢(shì)力有所恢復(fù)。

曹議金在935年去世后，其兒子曹元德接任節(jié)度使之位。兩年后，曹元德改變甘州回鶻與歸義軍的父子關(guān)系，與甘州回鶻可汗以兄弟相稱(chēng)，歸義軍由此再度強(qiáng)大起來(lái)。

曹元德在940年離世后，其族人曹元深、曹元忠、曹延恭、曹延祿、曹宗壽、曹賢順相繼成為歸義軍節(jié)度使，與中原王朝來(lái)往不絕。

宋太宗末年，黨項(xiàng)人李繼遷脫離宋朝的統(tǒng)治，在西北逐漸崛起。宋真宗和宋仁宗年間，李繼遷的兒子李德明開(kāi)始向河西走廊擴(kuò)張自己的勢(shì)力，1028年，李德明吞并甘州回鶻，從此對(duì)歸義軍造成直接的威脅。

歸義軍等不來(lái)宋朝的援軍，只好向西州回鶻求援，然而西州回鶻也沒(méi)有派來(lái)援軍，歸義軍只得堅(jiān)守城池，寸土不讓?zhuān)拖袼麄兲瞥南容厒円粯?，選擇抵抗到底。1036年，李德明的兒子李元昊攻陷沙州，存在近二百年的歸義軍宣告滅亡。

1038年，李元昊正式稱(chēng)帝，建立西夏，成為河西走廊的主人。1227年，蒙古人滅亡西夏，成為河西走廊的新主人。1368年，明太祖朱元璋滅亡元朝，而后不斷派兵西征，收復(fù)河西走廊，當(dāng)明朝的旗幟插在沙州城上時(shí)，歸義軍已經(jīng)消失三百多年了。