1940年8月，黃克誠接受中央的命令，東進與蘇北的新四軍部隊會師。會師整編后，黃克誠任新四軍第三師師長。由于新四軍缺乏干部，黃克誠的到來，給新四軍帶了新鮮的血液。據(jù)《開國大將》中記載：“黃克誠任三師師長時，率部發(fā)動了阜寧戰(zhàn)役，一舉攻克了阜寧縣城及其周圍日偽據(jù)點20余處。殲敵4千余人?！币慌e創(chuàng)下了蘇北新四軍部隊大規(guī)模攻堅作戰(zhàn)，解放城市的先例。

即使是取得了如此高的輝煌成就，黃克誠依然為人謙遜，有的干部看黃克誠身體比較弱，就勸說他叫他呆在指揮部統(tǒng)籌全局就好，不必事必躬親，但黃克誠非常謙遜地說：“謝謝同志們的關心，我身體不好，才要多去鍛煉嘛?！?/p>

1942年10月，黃克誠率軍來到了阜寧縣東面的大東莊，新四軍到達的時候，雖然還沒到夜晚，但也絕沒有到農(nóng)戶休息的時間。可莊子里明明有戶戶都有人家，但奇怪的是，沒一戶人家出來迎接新四軍。

據(jù)《黃克誠大將傳》中記載：“大東莊在黃克誠他們到來前的3天，被偽軍掃蕩過一次，偽軍糟蹋了地里的糧食，還抓走了不少青壯年。大東莊的老百姓見黃克誠來，以為偽軍又來了，所以才不敢出門迎接新四軍。”

10月的蘇北，天氣逐漸轉(zhuǎn)涼，戰(zhàn)士們就在村口一直站著。在指揮部中，有干部提議試著敲開老鄉(xiāng)家的門，但黃克誠不同意。他說道：“老百姓讓日本人坑苦了，咱們初來乍到，他們不了解，就不要去打擾他們了，今晚全軍就露宿街頭吧。”

到了半夜，警衛(wèi)員擔心黃克誠的身體，就對黃克誠說：“師長，我看見前面有戶人家還亮著燈，你去那里住一宿吧?！秉S克誠說：“不行，天亮之前決不到群眾家里去。”

就這樣黃克誠和戰(zhàn)士們頂著涼風，在街頭露宿了一晚。第二天早上，鄉(xiāng)親們看見新四軍露宿街頭，于是就放下了戒備心，將新四軍帶回了自己家中。

黃克誠在蘇北露宿街頭的事，贏得了蘇北群眾的民心，至此之后新四軍無論到了那個村莊，老百姓都會，非常熱情地接待他們。據(jù)《開國大將》中記載：“黃克誠要求，凡是進駐各村各戶，進駐老百姓家中的新四軍，都要嚴格遵守三大紀律八項注意?！?/p>

1943年的一天，黃克誠率部，端掉了日軍在鹽城的3處據(jù)點。在回師途中借宿柳西莊。當?shù)匕傩占娂娔贸?strong>稻米和鮮魚招待新四軍，黃克誠指示部隊吃完老百姓的東西要給錢。但有一個排的戰(zhàn)士，由于經(jīng)費不足，吃完飯就沒給錢。

黃克誠知道后，迅速讓供給部去付錢，然后親自到了那個排，吩咐戰(zhàn)士道：“沒錢就可以吃白食了嗎？你們排留下來，給老鄉(xiāng)把舊房子翻修一遍！”

黃克誠在嚴厲治軍的同時，對待自己也是相當嚴格的。據(jù)《開國大將》中記載：“黃克誠曾經(jīng)宣布過一條紀律，就是無論戰(zhàn)士們是有意的，還是無意的，只要損壞了老鄉(xiāng)的財產(chǎn)，就要賠錢。”

有一日，黃克誠騎著他的馬來到一戶農(nóng)家，黃克誠在和老鄉(xiāng)交談的時候，他的馬啃食了農(nóng)民家的楊樹。黃克誠當即拿出了2塊銀元作為賠償，但老農(nóng)堅持不收。黃克誠說道：“老鄉(xiāng)，我們新四軍是有紀律的，您不能讓我這個師長帶頭違反紀律吧?！?/p>

老農(nóng)也是實在，就說：“黃師長，我這破樹不值幾個錢，用不著用銀元賠呀?！?/p>

黃克誠說：“老鄉(xiāng)，我們新四軍的紀律就是，損壞東西該賠多少，一個大子也不能少，您就收下這兩塊錢吧?！?strong>老農(nóng)還是堅持不要，沒辦法部隊要行軍，于是黃克誠在走后，偷偷寄給老農(nóng)一封信，信里還放上了2塊銀元。

蘇北地區(qū)一到冬天，天氣就異常的濕冷，許多老百姓因此患上了風濕病。黃克誠看見老百姓被風濕病所困擾，就組織戰(zhàn)士為老百姓干農(nóng)活，命令空閑的軍區(qū)醫(yī)院接收病重的老百姓。據(jù)《新四軍蘇北戰(zhàn)爭史》中記載：“新四軍蘇北支部某醫(yī)院，在1942年的冬天，主動接收，救治了210名患有嚴重風濕病的群眾?！?/p>

熬過了冬天，新四軍在蘇北的規(guī)模又變大了，好多當?shù)氐陌傩找驗樾滤能姷膬?yōu)良作風，都紛紛加入新四軍。即使不夠參軍資格的家庭，也會積極地參與擁軍活動，蘇北地區(qū)新四軍與群眾的關系如魚水一般。

有一日，新四軍在南窯駐軍，南窯村的一個小孩高燒不退，家里人急了眼，就跑到了黃克誠的指揮部尋求幫助。據(jù)《開國大將》中記載：“一個十五六歲的小青年，喘著粗氣對黃克誠說：‘黃師長，救救我妹妹，她整日高燒不退，快要昏迷了。’”

黃克誠聽后，立刻讓青年去后方醫(yī)院抓藥，還囑咐青年要他騎著自己的馬去取藥。青年感到怪不好意思，就深深地向黃克誠鞠了一躬，騎著他的馬走了。騎著黃克誠馬的青年如同有了一道“萬能通行證”，所經(jīng)過的新四軍把守的關隘，無人阻攔，非常順利地就取道了藥，及時救了妹妹的性命。