面对400万军队，裁减如何下手，关键问题，在于弄清军队主要“肿”在哪里。尽管当时中国军队有400万，但连队并不充实，臃肿的是各级机关。各级机关，副职过多，每个军区有十几名甚至几十名领导，还有什么“团职保密员”、“营级打字员”等等。当时，世界主要几个国家的官兵比例是：苏联1∶4.65;联邦德国为1∶10;法国为1∶17，而中国却是1∶2.45。邓小平在中央军委座谈会上一针见血地指出：现在不是“肿”在作战部队，而是在各级领导机关。因此，与其说是“精兵”，不如说是“精官”。他还坦率地说：“这是个得罪人的事情!我来得罪吧!不把这个矛盾留给新的军委主席。”
对全军来说，几乎每一个人都面临着进、退、去、留的选择和被选择，几乎每一个军人家庭的利益都会受到触动。难怪有人说，这是一次从上到下、从里到外的“立体震荡”，是一次脱胎换骨的“大手术”。一夜之间，人民军队有60万干部被列为“编外”，陆军部队的建制单位有1/4要撤销，其中包括那些有着几十年光荣历史，立过赫赫战功的部队。
在面临被撤销的福州军区，有些干部要军区司令员江拥辉找中央军委首长，建议不要撤销福州军区。江拥辉语重心长地劝大家：“百万大裁军是党中央、中央军委做出的英明决策，我们必须无条件服从。至于撤销哪个军区，要等军委决定，我们谁也没有权力去干扰军委决策。我自己不能去找门子，也不准你们去拉关系。”在江拥辉和福州军区其他领导的共同努力下，福州军区撤销后的移交工作进行得非常顺利。
济南军区某团，前身是毛泽东于1929年在井冈山组建的“中央军委警卫营”;抗日战争时期，改为“八路军总部特务团”，内称“朱德警卫团”。在著名的保卫黄崖洞战斗以后，毛泽东在给朱德的贺电中号召：“全军学习‘朱德警卫团’黄崖洞守备战。”这个团转战南北，声誉日隆。该团要合并组建的风声传开后，干部、战士一时想不通。于是，团队请来老政委讲传统，组织重新认识团史，“针尖对麦芒”地对出现的各种问题做工作。经过努力，大家终于明白：珍惜荣誉，应该成为服从大局的动力，不应该成为阻力;光荣传统应该在精简整编中发扬光大。
1987年4月4日，在全国人大六届五次全会举行的中外记者招待会上，人民解放军副总参谋长徐信宣布：“中国人民解放军精简整编的任务已基本完成!裁减员额100万后，军队的总定额为300万。”
各总部、各军兵种、各大军区和国防科工委机关及其直属单位，撤并机构，人员精简40%。将原来的11个军区合并为7个大军区，调整后的军区，战区范围扩大，兵源充足，物质资源雄厚，战役纵深加大，从而提高了大军区的独立作战能力。较大幅度地调整各兵种的编成比例，加强了特种兵部队。凡保留下来的陆军，军级建制全部改编为“合成集团军”，与原陆军的军相比，集团军的火力、突击力、机动能力都有所加强，提高了现代条件下的合成训练和作战能力。全军撤销或合并了一些初级指挥院校和专业技术院校。院校数量精简12%，人员数量减少20%。
