在北方集群和遠東軍區(qū)歷任坦克排排長、坦克連連長、坦克營參謀長、營長;裝甲兵軍事學(xué)院畢業(yè)后，在波羅的海軍區(qū)任坦克團參謀長、副團長、團長、摩托化步兵師副師長兼參謀長;1993年被任命為西北集群摩托化步兵師師長;總參軍事學(xué)院畢業(yè)后，被任命為莫斯科軍區(qū)某集團軍副司令。

1998年起，他先后在北高加索軍區(qū)的第58軍任參謀長和副司令。1999年第二次車臣戰(zhàn)爭爆發(fā)后，格拉西莫夫先后指揮過"西線"和"南線"集團軍作戰(zhàn)。由于其"戰(zhàn)功卓著"，于2001年3月升任第58軍司令。2003年起，格拉西莫夫任遠東軍區(qū)參謀長。2005年4月，又被任命為俄軍作戰(zhàn)準(zhǔn)備總局局長。2006年12月，他出任俄北高加索軍區(qū)參謀長。2007年12月起出任列寧格勒軍區(qū)司令。2009年2月，任莫斯科軍區(qū)司令。2010年12月起，格拉西莫夫正式出任俄軍第一副總參謀長。2012年4月26日，格拉西莫夫被任命為俄中央軍區(qū)司令，11月9日被任命為俄軍總參謀長兼國防部第一副部長