江西省永新縣人，1918年出生于貧農家庭。他讀了幾年書，10歲參加兒童團，1928年任區兒童團團長，1931年任永新縣兒童局書記。 1932年12月，蕭克從中央軍委帶來一臺50瓦的電臺，湘贛軍區立即在永新縣城辦了第一期訓練班，共青團中央巡視員馮文彬推薦彭富九參加了訓練班。這期學員共8人，學成之后，彭富九擔任紅6軍團無線電報務員、紅2軍團報務主任、紅6軍團電臺隊長。整個抗日戰爭，彭富九都在軍委二局工作。軍委二局負責偵察工作，彭富九在二局歷任報務員、電臺臺長、股長、一處副處長、干部科科長、系主任。解放戰爭，彭富九到晉察冀軍區，任二局副局長、局長，彭富九當時沒有能夠破譯傅作義偷襲張北的情報。北平解放后，他找到傅作義原辦公室主任，才知道傅作義怕失密，內部沒有用蔣介石統一的密碼，自己另搞了一套密碼，故意把電報搞得顛來倒去，把簽名和時間插在電文里，致使破譯十分困難。傅作義架了幾部電臺測向，聽無線電的方向和聲音大小。從而得知我軍主力在張家口西南面，而張北空虛。1947年2月，晉察冀軍區2縱和4縱主力向固城、漕河、徐水一線出擊，迫使敵53軍和22師東移，從而孤立了進至易縣姚河地區的敵94軍，出現了殲滅大股敵人的有利戰機。聶榮臻立即命令楊成武指揮3縱、4縱迅速北進。3縱、4縱連夜強行軍70多里，包圍了姚村地區的敵94軍及5個團，敵我兵力對比是叁比五。當我軍正要發起總攻時，突然誤傳姚村被圍之敵已突圍向東逃竄。3縱、4縱自行撤圍，分路追擊。至發現情報有誤，部隊已無法收攏，喪失了殲敵戰機。彭富九回憶說：姚村戰斗，電話上報告，敵人跑了。聶司令員問我，我說，敵人肯定沒跑，敵人的電臺還在工作，正在發出“SOS”緊急呼救信號，向北平求援說“姚村被圍，火速增援，非常危險！”但前面部隊都去追“逃敵”去了，天快亮了，已經出去很遠。為這個，2局的同志火了，因為在空中抓住敵人一個情報不容易。

　　1947年10月，我地下工作人員從石家莊發來特急密碼電報，彭富九親自翻譯，該電說敵3軍和16軍1團將于近日沿北漢線北進。楊得志問情報是否可靠，彭富九作了肯定的回答。彭富九又通過電臺收到敵軍的幾個密碼電報，通過破譯，確定了敵3軍向北行動。清風店戰役結束后，楊得志將繳獲的一支手槍和一件雨衣送給彭富九說：老彭，干得不錯，這一仗沒有你們準確的情報，不可能會這樣順利地取得勝利。彭富九后來任華北軍區二局局長、中南軍區二局局長。1949年6月，白崇禧主力4個軍駐扎衡陽、寶慶一帶。四野首長要求二局搞清白崇
　　禧下步戰略動向。彭富九把我軍電臺截獲到的敵往來電報逐一細看，發現白部電令各軍給團以上單位發五萬分之一的廣西地圖，白部電告廣省政府報告廣西各地糧倉存糧數，白部要求匯報廣西各地橋梁負重量。彭富九判斷白崇禧欲退回廣西。為防止白部退回廣西，四野采取了穩住敵軍，遠距離迂回包圍，截斷敵退路
　　的作戰方針。此時敵潛伏在武漢的一個電臺被破獲，彭富九監督敵電臺臺長發報，慌稱四野士兵多系東北人，到南方來水土不服，疲憊不堪，傷病很多，部隊已發放冬裝，正在休整，未發現有重大行動跡象。白崇禧接電后信以為真。羅榮桓說：彭富九所領導的二局的工作，對取得衡寶戰役的勝利功不可沒。1952年，總參謀部下設技術部，彭富九調到北京，任技術部一局局長。彭富九組織領導抗美援朝戰爭中的情報保障工作，開展對朝鮮戰場上聯合國多國部隊的多種文字翻譯、情報技術偵察工作。后因技術部主要領導發生了問題，一時形勢混亂，工作受到嚴重影響。不久李濤出任技術部部長，彭富九升任第一副部長。1955年以后，技術部后改為總參叁部。1959年，由李濤提議，41歲的彭富九出任叁部部長。彭富九一度離開過叁部，到軍事科學院任副政委，但最后又回到叁部，先后擔任部長、第一政委。過去彭富九的履歷很少披露，蕭克評價彭富九說：知者不說，不知者無從說。 彭富九獲二級八一勛章、二級獨立自由勛章、一級解放勛章、一級紅星功勛榮譽章。是隱蔽戰線上的無名英雄。