1909年，滕海清出生在安徽金寨的一个贫农家庭。自小就给地主放牛以补贴家用。贫苦的生活并没有让滕海清变得庸碌浑噩，反而像是一片土壤，孕育他心里革命的种子。等到大一点，他跑到霍山县给人烧炭，从此自食其力。1929年末，在目睹了六霍起义给当地带来的巨变后，滕海清毅然加入到了起义队伍中。半年后，红一军要在商南地区组建一个独立旅，滕海清得知这一消息后十分兴奋，他向上级打报告要参加红军，得到了上级的批准，于是他带着30名赤卫队员成为了红军的一员。
成为红军后滕海清作战非常勇猛，1931年一月下旬，红军在麻城地区打了一场恶战，在歼敌1000的同时自身也损失惨重，滕海清所在的班死了一半人，战后连长问他怕不怕，滕海清毫不犹豫地回答：“害怕就不来当红军了”。滕海清也确实如他说的丝毫不怕死，1932年10月，在蒋介石30万重兵的围剿以及张国焘的错误指挥下，红四方面军不得不离开鄂豫皖苏区向西转移，在部队穿过平汉铁路时遭到了八个师的围攻。作为干部排排长的滕海清十分英勇，带头冲锋，不料却被敌人的手榴弹炸伤。手榴弹炸伤了滕海清的手臂，炸掉了他的两颗门牙，烧坏了他的左眼。为了能更快逃脱，上级决定连级以下的伤元发放三个大洋让他们就地安置。滕海清被安置到老乡家里。但是滕海清坚决不肯掉队，伤势稍微好转，他就步履蹒跚的向部队的方向跟去。路上滕海清还遇上了土匪，所幸他的银元留给了老乡所以土匪没杀他。挣脱绳子后，他拄着竹杖光着腿，眯着肿胀的眼睛以超绝的毅力在子午镇追上了部队。首长倪志亮十分感动，让后勤连夜给他做了一身新的衣服鞋子，让他跟着部队继续前进，不过他的左眼因为缺医少药，最终还是瞎了。
1932年9月，身体已经好得差不多的滕海清迫不及待地要求重新上战场，倪志亮担心他还没好利索，就让他当了个指导员。滕海清指导员正热火朝天地干了没几天，倪志亮就有了新决定，因为部队在四川缺乏人手，所以他决定让滕海清去清江渡东南发展游击队。经过努力，滕海清成为了一个300人的游击队的队长。1933年2月，我军在川陕边区的行动让国党惊恼万分，于是派遣了四川军阀田颂尧纠集了6万人三路围攻川陕苏区。滕海清率领游击队配合主力英勇作战，最终达成了歼敌1.4万的成绩，成功粉碎了国军的围剿。国党不甘心失败，又派遣四川军阀头子刘湘率20万重兵6路围攻川陕苏区。战斗中滕海清不改英雄本色，多次率军担任突击队。战场上变幻莫测，子弹并不会因为一个人的勇敢就不会射向他，冲锋在前的滕海清再一次受到了重伤，一颗子弹飞速的撞向了他的脖子。子弹从滕海清的喉部射入，从颈后射出。巨大的冲击力损坏了滕海清的喉咙，皮肤，还有神经，很长时间内，他的左半边身子都不听使唤了。滕海清在医院住了两个月才有所好转，但他的心早已迫不及待了，他强烈要求回归部队继续作战。1934年春，滕海清出任33团一营政委。
抗战爆发后，滕海清成为新四军的一名团长。39年1月1日，在彭雪枫司令员的命令下，滕海清率部向商亳公路前进，挥出了他对日军的猛烈一刀。日伪军被打得猝不及防，死的死，降的降。一战下来我军以伤亡5人的代价毙敌100人，缴获大量枪支。
解放战争爆发时，滕海清已经是第九旅旅长，因为战功出色，47年1月升为2纵队6师长。淮海战役中滕海清协同友军围攻杜聿明集团，并将其一举歼灭。因为战功赫赫，三野2旅改为21军时，滕海清被任为首任军长，并参加了渡江战役，解放了蒋介石的老家。
新中国成立后滕海清进入南京军事学院学习，因为成绩优异，毕业后留在军事学院担当教员。他的课身入浅出，深受学生的喜爱，1955年还成为了石家庄高级步兵学校的校长。同一年的授衔中，滕海清被授为中将军衔。1961年被调往北京军区担任副司令员。
1967年，内蒙古发生流血事件，上级调青海军区司令员刘贤权担任司令员，可因为青海工作没处理完，上级先让滕海清暂时代理司令员。此时内蒙古军区从大军区缩编为省军区，隶属于北京军区辖区。滕海清虽然调任内蒙古工作，可依然兼任北京军区职务，只是工作重心转移。
中苏闹翻以后，特别赫鲁晓夫下台后，苏联鹰派势力得权，开始在远东地区架设专门针对中国少数民族的策反广播电台，大量传播内亚史观肢解中国的统一民族史观。先后通过广播和一些外交渠道，与当年苏联扶植的人民革命党前党员取得联络，或者说当年就是潜伏下去的。北疆先后出现少数民族逃亡苏联，和苏联有预谋有策划的军事武装冲突（边界埋伏武装直升机，突袭我方边防巡逻队），尤其影响恶劣的是少数民族军人叛变。
建设兵团开始剿灭新疆苏联已经渗透进来的人民革命党武装，滕海清主责期间开始对前东蒙人民革命党成员进行了严格而残酷的清洗，尤其针对内蒙部队和机关干部，揪查“新党”64.6万人（其中蒙古族占85%），致死106222人，打残237188人。
滕海清利用汉族干部对“内蒙古人民革命党”进行清理，并按照清理阶级队伍的作法深挖狠斗，一时间，成千上万的蒙古人被审查和刑讯逼供，其手段令人发指，数以万计的人被活活折磨致死、致残。滕海清陆续派出了大批的工宣队、军宣队，在各中、小学、幼儿园、街道办事处，农村公社和生产队，牧区蒙古包、寺庙等处私设牢房，一时间人满为患。运动期间，内蒙境内的约一千五百座寺院被打、砸、抢。佛教文物被毁坏殆尽。
当时内蒙的蒙古族只有130万人，这场运动打击面积大，血雨腥风。1968年秋，在周恩来指示下，这场运动叫停。
1975年，滕海清离开内蒙古，被调到济南军区，担任了济南军区副司令，1988年，解放军实行新式军衔时，滕海清被授予了一级红星功勋荣誉章。1997年，滕海清因病去世，享年88岁。
