1950年初，担任19兵团副司令员兼参谋长的耿飚，接到通知，被调任到新成立的外交部担任大使。对他来说深感意外，在军队干20多年，从情感上说舍不得离开不多。
作为司令员的杨得志对他说：老耿，以后还可以来兵团走娘家嘛！
就这样，耿飚离开军队，转任外交战线上。谁也没想到30年，耿飚重返军队，此时的身份已经不同往日，担任军委秘书长，主管军委日常工作，成为杨得志的直属领导。
从年龄和资历上讲，耿飚比杨得志高一些。他大杨得志2岁，在1925年参加共青团，1928年转为共产党。不过，参军资历并没有杨得志早。
杨得志在1928年参加湘南起义走上井冈山，成为红军战士，而耿飚此时在地方拉起武装，1930年才加入红军。
耿飚先后在红一方面军红1军团担任过师参谋长，红四方面军担任过军参谋长。从职务上说，耿飚更早担任师职、军职。杨得志长期在作战部队担任团长，抵达陕北东征、西征才担任副师长、师长。相比战绩而已，杨得志更胜一筹。
解放战争时期，耿飚调任129师385旅参谋长、副旅长兼副政委，晋察冀军区副参谋长等职。而杨得志调任115师343旅685团团长、344旅副旅长和代理旅长、八路军第2纵队司令员、冀鲁豫军区司令员。杨得志长期位居正职，耿飚长期位居副职。
解放战争时，俩人都在聂荣臻领导的晋察冀军区，耿飚担任晋察冀野战军参谋长，而杨得志担任司令员。后19兵团成立，俩人职务不变。
1949年，耿飚升为副司令员兼参谋长，作为副手协助杨得志指挥诸多战役。
新中国成立之初，耿飚调任外交战线上，而杨得志一直在军队工作，参加抗美援朝担任兵团司令员、志愿军副司令员、司令员。1955年调任济南军区司令员、武汉军区司令员、昆明军区司令员，1980年晋升为总参谋长。
耿飚先后担任驻瑞典王国大使、巴基斯坦大使、阿尔巴尼亚大使。1971年调任中联部部长。
当四人帮被粉碎后，他的职务不断晋升，1978年担任副总理，1979年调任军委秘书长，负责全军日常工作。谁也没想到，脱下军装30年后再次穿上，职务更高。他担任军委秘书长到1981年，此时杨得志已经担任总参谋长，俩人依旧是上下级。不过，此时身份转换了。
此后担任国防部长1年多，1983年再次离开军队，转入人大工作。
