马文波出生于1911年，安徽省怀远县人，出生于一个农民家庭。青少年时期，他追求进步，向往真理与光明，在进步思想的影响下，逐渐成长为一名忧国忧民的爱国青年。土地革命时期，马文波的家乡掀起了轰轰烈烈的革命运动，工农革命队伍也在这里创建了鄂豫皖根据地。同时，这块根据地也成为当时仅次于中央根据地的全国第二大革命根据地。
1931年，以红四军（鄂豫皖根据地的红四军）为基础，红四方面军在鄂豫皖根据地正式成立，次年，马文波参加了红军，成为红四方面军的一员。参加红军后，马文波陆续担任了鄂豫皖军委会无线电训练班技术教员，红四方面军总部报务员、报务主任、科长，军委二局股长等职务，活跃在鄂豫皖根据地，主要从事技侦工作。
在鄂豫皖根据地期间，马文波为红四方面军无线电通信和技侦工作的建立与发展作出了巨大的贡献，同时，他也是红四方面军技侦工作的创始人之一，并多次参加鄂豫皖根据地的反“围剿”作战，为红四方面军提供了大量有效的情报，是建设与巩固鄂豫皖根据地的功臣之一。
1932年10月，马文波随部离开了鄂豫皖根据地，辗转川陕一带，参与了开辟川陕苏区的战斗。在川陕苏区期间，他继续从事技侦工作，为红四方面军的反“三路围攻”与反“六路围攻”提供了情报支持。1935年5月，马文波跟随红四方面军的主力部队参加了长征，取得了长征的胜利，见证了红军三大主力的会师。
抗日战争全面爆发后，马文波担任了军委二局科长、处长、第二副局长等职务，留守后方，期间，他积极开展对敌侦察工作，为我军提供克敌制胜的情报支援。同时，马文波也参加了大生产运动，支援了前线与后方，为抗日战争的胜利作出了重要的贡献。
抗战胜利后，马文波担任了晋察冀军区司令部二局副局长、军区情报处处长、华北军区司令部情报处处长等职务，继续主持情报方面的工作，并参加了清风店、石家庄、平津等战役。期间，他充分发挥自己情报方面的特长，为配合平津战役的胜利作出了突出贡献。
新中国成立后，马文波担任了总参谋部三部副部长等职务，致力于我军技侦工作的现代化发展，同时，他也积极参与全军技侦战线的部署调整，为我军的技侦工作长远建设奠定了坚实的基础。
1955年授衔时，马文波被授予少将军衔，成为开国少将，同时，他还获得二级八一勋章、二级独立自由勋章、一级解放勋章，以表彰他在革命时期作出的卓越贡献。1972年，马文波被调到外交部，担任了外交部副部长。
当时恰好处于特殊的历史时期，马文波担任外交部副部长后，严格贯彻中央的外交路线，努力排除造反派对工作的干扰，在极其困难的条件下，为稳定外交工作秩序做了大量工作。1982年，马文波离职休养，离休之后，他依然关心部队的各项建设，并积极献言献策，为我军的现代化与正规化做力所能及的工作。晚年的马文波主要生活在北京，于1993年因病去世，享年82岁。
