中华人民共和国成立后，林彪一直养病，深居简出，很少与人交往和参加国务活动。
1954年，中苏友好协会成立，毛泽东让林彪担任协会主席一职，林彪也只是挂个名，很少过问协会里的事务。
林彪有病也是事实。抗战初期那次伤及中枢神经的枪伤和紧张的战争生涯对他的身体损伤很大。海南岛战役之后，中央鉴于林彪健康情况不好，送他到苏联去治疗休养。但治疗效果不大，特别神经系统问题多。他怕光、怕风、怕水、怕声音，动辄出汗，见风感冒，见水拉稀。即使在授予十大元帅军衔和勋章典礼的喜庆日子，林彪也是神情萎靡，郁郁寡欢。
毛泽东对林彪的病情十分关心，1953年，毛泽东指示总后卫生部部长傅连璋组织专家会诊，为林彪检查身体。傅组织了北京、上海、天津等地的名医给林彪作了全面检查和会诊，没有发现林彪身体上有严重的器质性病变，许多病的症状是与神经系统有关。他建议林彪多作户外运动，多吃蔬菜水果，并暗示叶群节制性生活。傅如实地把会诊结果汇报给了毛泽东和中央，林彪、叶群忌讳说他有神经系统的病，对此怀恨在心。在“文化大革命”中傅被迫害致死，“迫害林副主席”是他的主要罪状之一。
毛泽东得知检查结果后，特地手书曹操的诗《龟虽寿》赠与林彪：“老骥伏枥，志在千里;烈士暮年，壮心不已。”曹操大气磅礴的名篇，加上毛泽东酣畅淋漓的草书，表达了毛泽东希望林彪振作精神，克服疾病，再有所作为的拳拳之心。
林彪虽然有病在身，但并不像他表现的那样严重。林彪性情阴鸷，猜忌多疑，心病大于身病。新中国成立初期有两件事对他的心病影响很大。
1950年在中央决定抗美援朝出兵问题上。林彪内心不愿意卷入朝鲜战争，对与美军作战没把握，推说有病，婉拒了毛泽东要他担任志愿军司令员率兵出征的重托。而后彭德怀意气干云，毅然挂帅出征，使毛泽东颇生感慨。毛泽东曾说，给林彪发转业费，让彭德怀管国防部。
1953年在高岗事件上。高岗进京后担任位置十分重要的国家计委主席。他趁党和国家领导机构将进行大幅度调整，人事将有新的安排之际，四处活动，大搞幕后交易，在党内拉选票，在会议上发难，攻击刘少奇、周恩来等，谋求更高权力。高岗在东北局工作时就和林彪关系密切，到京后又和林彪扯在一起。心高气傲的林彪对高岗颇为欣赏，他说，高岗政治上很强，将来是党内了不起的人物。
高岗于1953年10月到杭州，与林彪商量中央人选名单。他主张林彪出任一些人主张由国务院改名的部长会议主席。11月末，林彪交给高岗妻子一封信，要她亲自交给高岗。毛泽东察觉了高岗的一些活动，并派陈云去做林彪的工作，要他警惕高岗。不久，高岗问题暴露，中央对他进行了严肃的斗争。高岗拒绝认错，以自杀相对抗。
林彪庆幸自己没有陷进这场政治旋涡之中，对毛泽东的政治斗争艺术感触良多，之后在政治上更加工于心计。直到1962年，叶群还对高岗妻子说，那封信是林彪批评高岗搞地下活动的。这一“此地无银三百两”的掩饰，正说明高岗事件对林彪的心理影响之大。
1956年9月，在八届一中全会上，林彪当选为政治局委员。
毛泽东对林彪这位爱将还是厚爱的。1957年夏，毛泽东到上海视察、专程探望了在这里养病的林彪。林彪感到了毛泽东的关心和信任，心情十分高兴。
1958年5月，在八届五中全会上，毛泽东提议林彪任中共中央副主席、政治局常委，位居毛、刘、周、朱、陈之后。林彪在会上格外兴奋，病容全无，精神焕发。这似乎表明了林彪的病，大半是权力饥渴症的政治病。不久，在庐山会议上，林彪所患的是政治病得到了验证。
1959年的庐山会议，是林彪从养病闲居走到政治前台的转折点。
1959年7月，中央政治局在庐山召开扩大会议，主题是总结大跃进的经验，纠正已经觉察到的一些"左"的错误。林彪推病，没准备参加会议。
庐山会议在对"大跃进"经验教训的认识上产生了很大的分歧。耿直的彭德怀尖锐、激烈地批评了经济建设中的"左"倾错误，并在7月14日给毛泽东写了一封信，陈述自己的意见。毛泽东被信中"小资产阶级狂热病"等词句深深地刺痛了。毛泽东动了肝火。他要进行反击，既是为了维护"三面红旗"，也是为了维护自己的领袖尊严。
毛泽东把彭德怀的信冠以"彭德怀同志的意见书"，印发大会，让大家"评论这封信的性质"。7月23日上午，毛泽东在大会上讲话，锋芒尖锐地逐条批驳了彭德怀信中的观点，并说"解放军不跟我走，我就找红军去"，"始作俑者，其无后乎。我无后乎!"情绪极为激动。毛泽东讲话后，庐山会议风向立转，开始批彭反右。
毛泽东电召林彪等人上庐山参加会议。7月17日，林彪上了庐山。林彪在北京就得知了庐山上发生的事情，清楚毛泽东召他上山的意思，上山后口称"援兵"，对彭德怀的批判刀刀见血。
8月1日，毛泽东主持政治局常委会。朱德首先发言，态度温和。立即被毛泽东斥为"隔靴搔痒"。林彪接着发言，声色俱厉地说，"彭德怀是野心家、阴谋家、伪君子，冯玉祥式的人物。在中国，只有毛主席是大英雄，谁也不要想当英雄。"林彪迎合毛泽东，一笔笔地算起彭德怀的历史旧帐。林彪的发言为会议批斗彭德怀定下了凶狠的调子。
在以后的会议上，林彪继续攻击彭德怀"野心很大"，"非常嚣张"，"打着反对小资产阶级狂热性的旗帜向党进攻，向毛主席进攻"，是"我们党里面的一个隐患"。他硬是把一瓢瓢的污水，劈头盖脸地泼向彭德怀。
在早已超过针对写信本身的一片批判责难声中，彭德怀只好违心地承认"错误"，表示：不自杀，不当反革命，可以回家种田，自食其力。
紧接着，召开八届八中全会。会议把对彭德怀的批判上升到路线斗争的新高度，说彭"一贯反对毛主席"，并揭批莫须有的彭德怀"军事俱乐部"问题，性质越来越严重。主持军委日常工作的国防部长彭德怀、总参谋长黄克诚、外交部常务副部长张闻天、湖南省委第一书记周小舟等人被打成"反党集团"。此后，中国转入了蹇乖多难的年代。
庐山会议后，林彪接替彭德怀的国防部长职务，并主持军委日常工作。扶摇直上的林彪，一改新中国成立以后的消沉，在中国的政治舞台上又大显其身手来了。
