黄永胜从广州军区进中央，一来就是总参谋长这样大权在握的硬职。对于总长一职，建国十多年了，大家都知道它名为武官、实为文职。
从北京军区司令、第一副总长升上去的前任总长杨成武，前面还有个“代”字，黄永胜直接没有了，可见毛主席对他是寄予厚望了的。在升任总长的一年后，他就差点成为常委，这是他所到达的一个空前高度。
69年前后很长一段时间，有关新闻报道的各种会议、集会、外事活动等等，黄永胜的名字只在陈伯达之后，排在以毛主席为首的第六名。
可是令毛主席万万没想到的是，黄永胜如此紧靠“副帅”，恨不得整个人贴上去日夜相伴，遵照其一言一行为人处事。毛主席是希望黄永胜能成为一股不说完全听命自己，起码独立些的一股政治力量——毕竟他是位高权重的总长，有这个资格。奈何事与愿违。
1970年庐山会议，毛主席因一些人的讲话发怒，本在北京留守的黄永胜，被毛主席召到庐山上来。会前黄永胜就明确提出要上庐山，但被周总理拒绝。黄永胜虽然不在山上，但跟叶群、李作鹏、吴法宪、邱会作都有联系；所以会上的情况，他一清二楚。
黄永胜在山下，态度却比山上的吴法宪等人还积极，让秘书作了个书面发言稿，拥护“副帅”的讲话，并再三催促吴法宪，把自己的书面发言发出去。吴法宪劝他再等等，等了两天情况大变，吴就劝他别发了。
按照原定会议议程，吴法宪在会议后期要回北京替换黄永胜上山的。如今情况大变，吴法宪认为正需要黄永胜来“帮场子”，就给周总理打报告，自己提前回去替换黄永胜。周总理说这事要请示毛主席。
毛主席的批示很快，不到两小时就发来了：“吴法宪不回北京，黄永胜立即上山，李德生回北京看家。”如此一来，吴法宪的思想上也有了个大概准备：要倒霉了。
黄永胜是坐飞机到庐山的。他此次到庐山的一切安排，都是由周总理具体负责的——原由吴法宪安排。黄永胜一上山，就去毛主席那了。毛主席跟黄永胜谈了好几个小时，先是略谈了会议情况，然后严厉批评起黄的总参工作——过去都是充分肯定和鼓励的。
被惹火的毛主席，讽刺黄永胜道：“你黄永胜是总参谋长，是个头儿。一天到晚不抓大事，只抓小事。什么总参谋长，打起仗来我就是总参谋长！”毛主席话里的意思是，你黄永胜这个总参谋长名不副实靠不住，真要“打起仗来”，还得我自己上啊。
当面的严厉批评，可见毛主席还是想拉黄永胜一把的，吴法宪、李作鹏、邱会作三人也是这样想的，觉得毛主席要冷落他们，拉黄永胜了。黄永胜上山前，吴法宪等人已经作过检讨了。黄永胜在毛主席处谈话时，吴法宪等人提前到达黄在庐山上的住处，想尽早知道毛主席跟他的谈话情况。
吴法宪等人在黄永胜住处，从傍晚坐到次日凌晨四点才等到。出乎吴法宪等人预料的是，黄永胜竟然没有疏远自己几人，还跟过去一样亲密。
不过，考虑到吴法宪等人知道毛主席对自己讲的话后，思想上会有顾虑，可能会选择改旗易帜，所以黄永胜说起谈话情况时，遮掩了许多内容。
