1962年七千人大会后，毛泽东两次表示他并不赞成林彪的意见，第一次是1962年麦收后，第二次是1965年，罗荣桓逝世后不久，毛泽东在武昌时讲的。1967年1月11日中央下令军管，军队开始介入地方。
1963年底，罗荣桓病重，林彪派夫人叶群送鲜花以示慰问。12月16日下午2时37分，罗荣桓病逝。他是第一位逝世的元帅，治丧委员会阵容庞大，国家主席刘少奇出任主任，毛泽东、周恩来、朱德、林彪等77位中央领导人和军队主要领导人出任委员。
林彪和罗荣桓的战友情谊可以追溯到1930年2月，林彪担任红4军军长后，因性格、处事方法等与政委常有矛盾，而罗荣桓调任红4军政委后，到平津战役结束，两人搭档累计10年，几乎没有什么大矛盾。罗荣桓性格宽厚，在军事指挥上尊重林彪的意见，把作战以外的工作全部承担起来。林彪对罗荣桓也心存感激，如果罗荣桓身体好，四野南下是不会调换政委的。
1963年12月17日，罗荣桓逝世第二天，林彪得知，不顾刚下过大雪，行车不便，叫秘书关光烈立即备车，陪他一起去医院，单独与罗帅遗体告别。(《南方周末》2012年2月16日《林彪秘书关光烈谈林彪》)悲痛中林彪题词“良师益友”，这是他的肺腑之言。当天《解放军报》刊登《林彪挽罗荣桓同志》：“六亿人意气风发，日月重光，万里长征，方期任重道远。数十年风雨同舟，肝胆相照，一朝永诀，痛失挚友知心。”
12月19日，经毛主席、党中央批准，罗荣桓遗体告别仪式定在15时举行。14时40分，林彪怀着沉痛的心情到北京医院参加集体告别。17时10分向罗帅遗体告别仪式结束，天已经黑了，林彪再次来到告别室，与众元帅鞠躬哀悼，目送罗荣桓遗体抬上灵车，祝罗帅一路走好。
12月22日上午，首都各界公祭罗荣桓大会在劳动人民文化宫举行。9时林彪与刘少奇、朱德等来到罗荣桓灵堂，轮流为罗荣桓守灵，默哀悼念，并慰问家属。10时万人公祭大会开始，邓小平致悼词，刘少奇主祭，林彪与朱德、邓小平等陪祭，与首都军民共同默哀悼念罗荣桓元帅。公祭后，在哀乐声中起灵，林彪与邓小平、彭真等护送罗荣桓的骨灰到八宝山革命公墓。
