中华人民共和国成立后，国民党旧将领张发奎婉拒周总理多次邀请归国，他表示：“我两边都不会去的。”张发奎成了各方争相拉拢的对象，既有台湾方面的人，也有中国大陆的人。他在北伐时期立下赫赫战功，跟共产党有过合作经历。周总理和叶剑英元帅多次派人找他谈，希望他回国贡献力量。面对这个选择，张发奎表现得很坚决，说自己哪都不去。周恩来和蒋介石都曾试图争取他的支持。尽管如此，他还是决定留在香港。1949年国民党局势不利时，蒋介石想让张发奎跟他去台湾，但他拒绝了。后来李宗仁希望张发奎在华南建立反共武装力量，但他也明确表示不干。新中国成立后周总理和叶剑英还一直努力争取张发奎的支持。尽管有这两个人找他谈话、拉拢他，他还是坚定地表示自己哪里也不去。虽然没能回到大陆或者台湾，但张发奎在香港做了一些事情。 1952年张发奎参与成立了所谓的“第三势力”行动，与顾孟余、张君劢、张国焘等人一同组建了“中国自由民主战斗同盟”，提出了“反共反独裁”的口号。虽然这个团体没有取得太大成绩，但直到1955年才解散。1975年蒋介石去世时，张发奎特地前往台湾致哀。这个时候他已经知道国民党内部腐败堕落严重。 在北伐时期，张发奎率领部队从广州一直打到武汉。第四军因此被称为“铁军”，而张发奎也因为战功显著，年纪轻轻就成了统领几万人的师长和军长。在这个时期他与共产党有过很好的合作关系。李宗仁对此感到担忧，他提醒张发奎要注意队伍里面有很多共产党员。可张发奎根本不把这事当回事，反而笑着说叶挺是他老乡不会对他不利。 1927年的时候蒋介石发动“四一二”反革命政变后汪精卫也开始动摇起来。对于这个局势张发奎感到非常为难。汪精卫给了一些所谓证据说共产党要抢夺军权。7月29日汪精卫、孙科还有张发奎一起开会讨论怎么对付共产党。会后叶剑英透露说张发奎被逼得走投无路不得不向右派妥协。 8月1日早上天还没亮南昌城里突然响起枪声原来是叶挺和贺龙带着部队起义了。张发奎得知消息后赶紧坐火车赶往南昌结果火车在德安被拦下来聂荣臻让朝天开枪示警火车上的人听到枪声吓得跳下车连行李都不要了。 12月11日早上天还没亮广州城里又响起了枪声这次是共产党在起义 。张刚从李济深手里夺回广州共产党就开始行动起来了他派去的人被杀死他自己吓得半夜从床上跳起来逃命去了。 他觉得自己从来没有亏待过共产党反而觉得他们让他心寒了一次又一次地逼得他无处可逃导致他最后决定离开香港前往日本谋生抗战时期他的队伍里面又有很多共产党员和进步人士。 1941年皖南事变发生时其他国民党将领都发声明反对共产党只有张没有发可能心里还记挂着以前在一起并肩作战的时候新中国成立后无论哪边都没能拉到他因此他选择了一条孤单的路走下去。