张云龙出生于1910年，福建永定县人，出生于一个贫寒的农民家庭。早年时期，张云龙曾当过蓬船工人，经常与大江大河打交道。1925年，15岁的张云龙投身革命，担任了永定县篷船工会纠察队队长、委员长等职务，开始在我党的领导下参加各种工人斗争活动。
1929年，红四军离开井冈山之后转战赣南与闽西，得知红军到达永定之后，张云龙参加了红军，成为工农革命队伍中的一员。1931年，张云龙加入了我党，成为一名光荣的党员。那段时期，他参加了中央根据地的历次反“围剿”，逐渐成长为一名优秀的红军指战员。
1934年10月，第五次反“围剿”失败后，张云龙跟随中央红军的主力参加了长征。长征期间，他一路过关斩将，二进遵义、四渡赤水、爬雪山过草地，历经千难万险到达了陕北。到达陕北后，张云龙参加了保卫军委机关以及巩固陕北根据地的战斗，后续他进入抗日红军大学学习，进一步完善了自己的军事理论基础。
1937年，抗日战争全面爆发，在两党第二次合作的基础上，南方八省的游击红军改编为新四军，为了加强新四军的建设，延安方面抽调了一批政治可靠、军事技能过硬的干部前往南方，这其中就包括张云龙。
到达新四军后，张云龙担任了军部侦察参谋，1938年，他被派到苏南，参加了以茅山为中心的抗日根据地的创建。1939年9月，张云龙被调回军部，担任了新四军特种参谋，主要负责情报侦察等方面的工作，期间，他多次出色完成上级交代的重要任务，受到军部表彰。
1941年1月，正在向江北转移的新四军被国民党反动派包围，皖南事变爆发。皖南事变期间，张云龙奉命指挥特务团的两个营坚守在长龙山一带，面对数倍于己的敌人，他们毫无畏惧，与敌人血战三昼夜，完成了上级交代的阻击任务。
完成任务后，张云龙带领三百余人突围，在皖南的密林当中，他们在极端困难的环境下坚持了数天。1月19日，张云龙等人从繁昌油坊嘴渡过长江，到达对岸无为的白茆洲，与新四军大部队汇合，同时，这也为新四军保存了一支骨干力量。
皖南事变后，张云龙担任了新四军特务团参谋长，此后他率部参加了车桥镇攻坚战、望直港伏击战，给予日本侵略者重创。同时，张云龙还参加了苏浙军区的三次反顽斗争，不仅歼灭了大量敌人，而且也壮大了根据地，为抗战的胜利作出了积极的贡献。
解放战争时期，张云龙继续在华东一带鏖战，参加了莱芜战役、孟良崮战役等多场大型战斗，尤其是在莱芜战役中，他表现非常突出，活捉了国民党高级将领李仙洲。淮海战役后，张云龙率部南下，参加了渡江战役以及解放浙江的战斗，见证了革命的最终胜利。
新中国成立后，张云龙两次赴朝参加了抗美援朝，继续为保家卫国而战斗。1955年，张云龙被授予少将军衔，成为开国少将。从朝鲜回国后，张云龙担任了24军代军长、军长、北京军区副参谋长、北京军区副司令员等职务，不仅拱卫了京都重地，而且为部队的革命化、现代化以及正规化建设作出了重要的贡献。2006年，张云龙在北京因病去世，享年96岁。
