任昌辉出生于1916年，江西省吉安县人，出生于一个贫寒的农民家庭。八岁的时候，为了谋生，任昌辉前往一家木匠铺，成为一名学徒，小小年纪就饱尝生活的艰辛。1929年，任昌辉参加了家乡的农民协会，参加农民协会后不久，他参加了攻打吉安的战斗，走上了武装反抗国民党的革命道路。
1930年，任昌辉参加了红军，成为红十二军的一名通讯员。参加红军后，任昌辉表现非常优秀，很快就担任了副班长、班长，并随部参加了第一到第五次反“围剿”作战，尤其是在龙岗、东韶战斗，白沙、建宁及中村战斗中，多次出色完成任务，受到上级的表扬。
1931年，任昌辉加入了共青团，同年，他转为正式党员。入党之后，任昌辉继续活跃在中央根据地战斗，1934年7月，他进入红军大学学习，也是这一年，第五次反“围剿”失败，学习尚未结束的任昌辉也被迫离开学校，跟随中央红军的主力部队踏上了长征之路。
长征期间，任昌辉凭借顽强的意志，拖着负伤的右腿走完了长征之路，于1935年10月到达陕北。到达陕北后，他参加了直罗镇等战役，投身陕北根据地的建设。1937年，抗日战争全面爆发，陕北的红军主力改编为八路军，任昌辉担任了八路军留守警备团七团二营营长，负责留守陕甘宁边区，保卫后方。
1942年，任昌辉被调到晋察冀军区，担任了三分区武装部部长、三分区二团团长等职务，率部参加了根据地的反“扫荡”与反“蚕食”斗争。值得一提的是，当时日本侵略者加大了对华北地区的“扫荡”，再加上干旱等自然条件的影响，华北地区的抗日形势格外艰难，但任昌辉没有灰心丧气，他团结群众，根据地的军民上下一心，与日本侵略者进行了不屈不挠的斗争。
抗日战争胜利后，任昌辉被调到东北。到东北后，他参加了东北地区的剿匪反霸作战，歼灭了大量的土匪，为根据地的建设奠定了坚实的基础。在这之后，任昌辉参加了辽沈战役等解放东北的作战，为解放东北地区作出了重要的贡献。
东北解放后，任昌辉随军南下，参加了平津战役以及进军中南的战斗。新中国成立后，任昌辉进入武汉第三十三高级干部文化速成学校学习，系统地学习文化知识，为将来建设祖国做好了各种准备。
任昌辉一共在校学习三年多时间，1955年，他被授予少将军衔，成为开国少将。授衔之后，任昌辉被调到河南省军区担任参谋长，1961年，他改任河南省军区副司令员兼郑州卫戍区司令员。任职期间，任昌辉做了大量有利于我军正规化建设的工作，尤其是在战备训练以及培养后备人才方面，倾注了很多心血，作出了巨大的贡献。
在授衔后十年，也就是1965年，任昌辉离职休养。离休之后，任昌辉并没有闲着，他依然关心我军的各项建设，并积极献言献策，为我军的正规化与现代化做力所能及的工作。同时，任昌辉也积极撰写战史以及回忆录等方面的内容，留下了宝贵的历史资料。晚年的任昌辉主要生活在郑州，于1989年因病去世，享年73岁。
