1947年11月，鄂豫軍區成立，司令員王樹聲，副司令員郭天民擔任。

對于該軍區的成立，是爲劉鄧大軍在大別山站穩腳跟而成立的，劉鄧大軍轉戰鄂豫皖，這裏雖然是革命老區，並沒有根據地。大軍要想留下來，就必須發動群衆，依靠群衆。不僅如此，此前組建的10縱、12縱分別被派往桐柏地區，江漢地區發展根據地，並成立軍區。

要發展軍區需要部隊，可鄂豫軍區並沒有像桐柏軍區、江漢軍區從後方調部隊過來，而是4個縱隊分別抽調部分兵力組建軍區。

當時，跟隨劉鄧大軍南下的部隊分別是1縱、2縱、3縱、6縱。

實際上，大軍初到大別山，野戰部隊就派出大批指戰員協助地方幹部開辟地方工作。如2縱5旅在商城、固始、霍丘地區剿匪，打土圍子和幫助建立地方各級政權。縱隊直屬機關的大批幹部到立煌縣（金寨縣）幫助開辟工作，建立後方 。

地方幹部都是劉鄧大軍南下時，一起帶來的。後來，王宏坤率領10縱又從後方帶來一批南下幹部，分配到各地方工作。

爲組建鄂豫軍區，上級抽調1縱一個旅，抽調2縱一個旅，3縱和6縱各抽調三個團參加軍區、軍分區的建設。這樣一來，野戰軍兵力少了，地方武裝力量增加了。這樣是非常有必要的，如果在大別山頻繁的戰鬥中，沒有可靠的後方保障，立足是非常困難的。

最急迫的問題是，糧食怎麽解決，傷員怎麽安置，衣被怎麽增加。目的盛夏抵達大別山，經過不斷轉戰，天氣越來越冷，十多萬大軍棉衣沒有著落，怎麽打仗。部隊已開始采取籌措布匹棉衣，因爲從後方調十幾萬套棉衣根本不可能，王宏坤南下時，部隊帶了不少物資，其中就是錢，就是在當地解決後勤保障問題。

可以說鄂豫軍區的武裝力量迅速加強，而且是4個縱隊力量拼起來的，論實際作戰能力，比王宏坤率領的10縱更能打。因爲10縱是地方武裝組建起來的，並沒有經過大規模最終，更多是遊擊戰，而且缺乏打大仗打經驗，因此也被留在後方開辟根據地。

上級任命王樹聲爲司令員，王樹聲是老資格，解放戰爭初期擔任中原軍區副司令員兼縱隊司令，中原突圍後抵達鄂西北開辟新區。那裏的自然條件相當惡劣，加上國軍長期統治實行連坐，不是齊裝滿員的一個縱隊，要天天與敵人周旋作戰，在發展根據地建設上遇到很大困難，缺地方幹部，缺後勤補給等等。

鄂西北軍區成立幾個月後，上級將王樹聲調回晉冀魯豫，下轄部隊由張才千在江漢地區活動，劉昌毅在大別山地區皖西活動等。

王樹聲回到後方後，在經過短暫休養後，得知劉鄧大軍南下大別山，要求到前線，因此擔任鄂豫軍區司令。

考慮到王樹聲的身體情況，上級將野戰軍副秘書長郭天民調去擔任副司令員，指揮部隊作戰。郭天民可是不了的人物，抗戰時期長期在晉察冀擔任軍政主官，解放戰爭初期，擔任晉察冀軍區2縱司令，經曆張家口保衛戰後與領導意見不同，而調離來到劉鄧麾下，一路南下到大別山。

盡管鄂豫軍區是主力部隊組建而來，可是他們的任務並不是與敵人正面作戰，而是發展根據地，如消滅地方保安團或者駐軍，解放縣城，擴大根據地影響力。

因此部隊，主要以遊擊戰爲主，針對敵人也都是雜牌武裝，有時候配合主力作戰。對于善打硬仗的郭天民來說，多少有些束縛拳腳，王樹聲在抗戰時期、解放戰爭初期，長期在後方建設，深知建立根據地的重要性，也安慰他，服從大軍。

劉鄧在中原發起的主動打硬仗，郭天民參加不多，像宛東戰役、宛西戰役、鄭州戰役、淮海戰役等，更多是配合主力。直到1949年，部隊改編後，編入野戰兵團擔任副司令。