1937年，罗荣桓率领115师主力离开五台山，前往汾河流域和晋南开辟根据地，留下了聂荣臻率领的3000多人在五台山一带继续发展。
要在一个广阔的地带开展工作，这点力量是很单薄的，尤其突出的问题是干部的缺乏，这成了困扰聂荣臻的一个大问题。
当时八路军总部还没有撤离五台山，聂荣臻在去总部的时候，恰巧遇到了他的老搭档，时任八路军副总参谋长的左权。
左权得知聂荣臻的困扰后，便主动向聂荣臻推荐道：“我给你推荐一个人——唐延杰，他可以给你当参谋长。”聂荣臻听后非常高兴，一口答应了下来。
唐延杰将军和聂荣臻也是老相识了，当年唐延杰是安源煤矿的工人，聂荣臻随北伐军打到武昌的时候，他拿着时任湖南省委书记夏曦的介绍信找到了聂荣臻，让他给自己分配工作。聂荣臻将他安排进了叶挺独立团，唐延杰从此成了为一名革命军人。所以，说起来聂荣臻还算是他的革命引路人。
后来他被送到苏联莫斯科东方大学军事班学习，回国后在红一方面军红3军团任职，一路走完了长征，期间他主要负责后勤工作，被彭总盛赞为“红三军团的萧何”。
来到陕北后，唐延杰被任命为陕北红28军参谋长，和军长刘志丹一起参加了东征战役，刘志丹牺牲后，他又和新军长宋时轮一起参加了西征。
由于表现出色，抗战爆发后，他被调入八路军总部担任作战处处长、总部副官长。由于他表现出色，左权便把他介绍给了聂荣臻。
这年11月7日，晋察冀军区在五台县成立，聂荣臻为司令员兼政委，舒同为政治部主任，唐延杰为参谋长。11月13日，晋察冀军区组建了4个军分区，司令员分别为杨成武、赵尔陆、陈漫远和周建屏。唐延杰作为军区总部参谋长，实际上是聂荣臻在军事方面的主要助手，在总部实际上相当于“三把手”。
在抗战期间，晋察冀军区的人员变动比较大，比如政治部主任舒同40年就离开了晋察冀，先是去了中央军委，后来又去了山东。但唐延杰从始至终一直都在聂荣臻身边工作，前后共9年。
这9年的时间里，他协助聂荣臻司令员创建、巩固和发展晋察冀抗日根据地，积极开展和坚持敌后抗日游击战争。到抗战胜利时，晋察冀军区已经从最初的3000人发展到了拥有9个纵队20万主力部队，和11万地方部队的强劲队伍。而这其中，唐延杰的贡献是很大的。
解放战争开始后，唐延杰多次主动请战，要求到第一线去指挥部队作战，但几次被拒绝，最后还闹出了“思想问题”。到47年初，聂荣臻终于同意他到前线，任命他为冀晋军区司令员。
当时晋察冀军区共有4个二级军区，即冀晋军区、冀察军区、冀中军区和冀热辽军区，司令员分别为赵尔陆（后为唐延杰），郭天民，杨成武和李运昌。可见，唐延杰在当时的晋察冀军区的地位还是很高的。
如果一直留在前线部队指挥作战的话，唐延杰很可能会和赵尔陆、郭天民、杨成武一样，位列开国上将（李运昌建国后离开部队，未授衔）。但在两年之后，也就是49年5月，聂荣臻又把唐延杰调到了自己身边，继续担任华北军区参谋长，同时兼平津卫戍司令部参谋长。
在解放军和国军中，参谋长的地位实际上并不高。5大野战军中，一野的参谋长阎揆要是中将，三野的参谋长张震也是中将，四野的刘亚楼能成为上将，原因之一是他在解放战争后期就担任了兵团司令员，二野的李达能成为上将，和他红二方面军的出身和深厚的资历有关。所以，唐延杰在1955年被授予开国中将，并不令人意外。
建国以后，刘伯承元帅主持创办了著名的南京军事学院，期间，他亲自点将唐延杰为学院教育长，协助自己工作。1958年，高等军事学院成立，刘伯承院长又点将唐延杰担任训练部长和教育长。唐延杰因此在新中国的军事教育史上留下了自己不可磨灭的贡献。
60年代，唐延杰被任命为国防科委副主任，在国防科研战线上继续奋战。当时的国防科委主任是聂荣臻元帅，两人时隔十几年后再次合作，堪称一段佳话。唐延杰谦虚地说：“我是聂规唐随，当好聂帅的大参谋是我的本分。”
十一届三中全会后，唐延杰再次出任国防科委副主任，这体现了中央对他能力和品质的高度认可。唐延杰也没有辜负党和人民对他的嘱托，在这个岗位上干出了耀眼的成绩。
1988年7月，唐延杰被授予一级红星功勋荣誉奖章，遗憾的是7月31日，他因病在北京与世长辞。
唐延杰将军辞世后，中央对他的评价是：“他勤勤恳恳地忘我工作，作风深入踏实，生活俭朴，严格要求自己的亲属子女。他极其重视保持革命晚节……”
