中华人民共和国成立之后，林彪先后任中央人民政府军事委员会副主席，国防委员会副主席等职。1955年被授予共和国元帅军衔。在20世纪50年代初期和中期，林彪由于身体等方面的原因，没有担任什么重要职务，工作也不很积极。虽然他在十位元帅中是最年轻的，但由于健康状况欠佳，一直比较消沉。

1959年庐山会议，彭德怀挨了整，林彪认为时机成熟，于是就杀上前台。不仅接替彭德怀担任国防部长，而且担任了中央军委副主席并主持军委日常工作。为了全面抓住军权，他先后搞倒了总政治部主任谭政，又诬陷并搞倒了总参谋长罗瑞卿。“文化大革命”开始后，与陈伯达、江青等人勾结，排斥异已，残害老干部。借助群众运动，有预谋有计划地迫害了一大批高级干部。

林彪在不择手段地迫害异已的同时，把自己的亲信和走卒安插到军队的要害部门。让黄永胜抓总参，邱会作任总后勤部部长，李作鹏去抓海军，吴法宪抓空军，再加上他的老婆叶群从中串连，结成反党集团并控制了军队的主要机关。他们的目的在于篡夺党和国家的最高权力。随着鼓吹“天才”，高呼“万岁”等阴谋被毛泽东识破和设国家主席议案被毛泽东否决，林彪及其集团意识到靠和平手段夺权已难能实现，于是决心发动武装政变。1971年9月8日，林彪下达了杀害毛泽东的手令。阴谋败露后，林彪与妻子叶群、儿子林立果于9月13日驾机出逃。逃跑途中在蒙古人民共和国的温都尔汗地区机毁身亡(“九一三事件”)。

1973年8月20日，中共中央决定开除林彪党籍。1981年2月25日，中华人民共和国最高人民法院特别法庭确认林彪为反革命集团的主犯。