1927年，蔣介石開始招募一批信得過的人才來輔佐他。依靠祖父與蔣介石父親的朋友關系，毛慶祥來到蔣介石身邊，被任命為侍從秘書兼機要秘書，并深得蔣介石的信任，被同僚冠以“上書房行走”的稱號。

　　毛慶祥曾任侍從室機要室主任，并兼技術研究室（專責電訊密碼）主任，常隨侍蔣介石參加高層會議，接見重要官員和外國貴賓。西安事變時，毛慶祥也曾遭扣押。獲釋后，毛慶祥更是一路高升，任過（剿共）南昌行營少將參議、軍事委員會辦公廳中將機要室主任以及蔣介石“總統府”機要主任。

　　蔣介石對通訊電訊保障有很高的要求，其中“對內通訊暢達保密”和“監偵研破敵方密碼”又是重中之重。原先，密碼研究電信建設只是機要室所管工作的一部分，抗戰爆發后，蔣介石命令在重慶單獨建制技術研究室，讓毛慶祥兼主任。該機關直屬蔣介石的秘密情報中心，負責偵譯密電。當時毛慶祥手下有干部300余名，很多是電訊高端專才。毛慶祥的“技研”取得過輝煌戰績，如蔣馮閻中原大戰時，破譯掌握了馮軍調動、部署機密；福建事變、兩廣事變時，破譯了陳銘樞、陳濟棠密碼情報；1941年冬，破譯了日本將攻擊珍珠港情報；1943年，破譯日本聯合艦隊總司令官山本五十六赴太平洋島嶼視察的情報，并告知美國，結果山本被美國飛機擊落斃命。

　　按照蔣介石的獨裁“習慣”，任何事情都必須上呈他親閱批示，這樣，蔣介石每天看的文電至少有百件。為不讓蔣介石過度勞累，毛慶祥設計出一種新的程序方法——呈蔣親閱的批件要選擇最重要的，按來電來文的不同內容，由侍從室、軍委辦公廳分管幕僚首長如陳立夫（黨務）、林蔚（軍事）、吳忠信（內政、邊疆）、王世杰（涉外）、賀耀祖、陳布雷分別送呈，并簽報“擬辦”意見，在文件上要標明何人或何機關、來電來文的地點、月日文別號次、內容摘要、擬辦事宜，并留出批示空隙。這樣，可以讓蔣介石省去許多閱看時間。

　　毛慶祥作為蔣介石“南陽敵舊”、“從龍勛臣”，在南京、重慶受蔣介石私惠寵信24年，在別人眼中，他應該是與蔣“安危仰仗、甘苦共嘗”的不二人選。誰知1949年，解放軍解放南京時，這位忠心耿耿的“上書房行走”見蔣介石大勢已去，竟然出乎意料地與蔣介石訣別，攜豐厚家財偕妻孩遠走南美，更于1969年移居美國，難怪國民黨里有人說，老蔣看文件還可以，但閱人的本領也不過如此。