郑位三出生于1902年，湖北省黄安县（今红安）人。早年时期，郑位三曾在湖北省甲种工业学校读书，读书期间，他广泛阅读进步书籍，积极参加各种反帝反封建爱国运动，为以后走上革命的道路奠定了基础。
1925年，郑位三加入了我党，成为一名光荣的党员。入党之后，他主要活跃在黄安，从事促进两党第一次合作的工作。大革命失败后，郑位三前往武汉寻找组织，后续他参与领导了黄安、麻城的革命斗争行动，走上了武装反抗国民党的革命道路。
在这之后，郑位三被派到鄂豫皖根据地，参加了鄂豫皖根据地的创建与历次反“围剿”。1932年秋天，红四方面军离开鄂豫皖根据地后，郑位三留在根据地，参与了红二十五军的重建。红二十五军重建之后，郑位三担任了红二十五军政治部主任，并跟随红二十五军参加了长征。
长征期间，郑位三留在陕南，领导红七十四师参加了陕南根据地的游击战。1937年年初，红七十四师与红十五军团会合，此后郑位三前往延安。抗日战争全面爆发后，郑位三重返鄂豫皖根据地，担任了鄂东北特委书记等职务，领导了大别山一带的抗日游击战，他充分发动群众，为大别山地区抗日斗争如火如荼发展作出了重要贡献。
1938年，郑位三担任了新四军第四支队留守处负责人，此后他领导干部与群众投身根据地的建设，支持了根据地的抗日斗争以及后方建设。1940年，郑位三改任新四军第四支队政委，继续扎实推进部队的政治工作，提高了部队的战斗力。
1941年，国民党制造了皖南事变，包围了正在向江北转移的新四军。皖南事变期间，因为敌我力量悬殊，新四军血战数昼夜依然未能突围，最终只能分散突围。分散突围期间，新四军损失很大，但在我党的领导下，新四军军部很快就完成重建，而且新成立的新四军军部下辖七个师，其中新四军江北指挥部及其所属部队改编为新四军第二师。
新四军第二师成立后，郑位三担任了第二师政委，此后他主要活跃在淮南地区，领导了淮南根据地的反“扫荡”以及反顽斗争，在极端复杂的环境下，与日本侵略者以及国民党顽固派进行了坚决的斗争，见证了抗日战争的胜利。
解放战争时期，郑位三参与领导了著名的中原突围，到达鄂豫陕边后，在组织的安排下，郑位三重返延安。不过，常年废寝忘食地工作使得郑位三的身体每况愈下，他患上了胃溃疡、十二指肠溃疡、胆结石等疾病，此后郑位三前往山东临朐、济南等地休养，并参加了1949年9月召开的新政协会议，见证了新中国的诞生。
建国后，因为身体的原因，郑位三主要以治病休养为主。期间，他还当选为第二至第四届全国政协委员，积极为祖国的建设献言献策。在1966年开始的那段特殊历史时期中，郑位三也受到冲击，身心受到极大的迫害，甚至被下放到外地劳动。1972年，郑位三返回北京，次年，在总理的过问下，他恢复工资与待遇。1975年，郑位三在北京因病去世，享年73岁。
