张树义的家在河北省灵寿县西岔头村。生于1906年7月。年轻时给地主扛了十多年长工。1937年10月，他在以长工身份作掩护的共产党员李有江帮助、指引下，奔五台山参加了聂荣臻将军领导的八路军一一五师部队，分配在四团机枪连当战士。11月晋察冀军区成立，不久，他由战士升任排长，还光荣地加入了中国共产党。
一个晴朗的日子，张树义正在指挥着一个排的战士进行训练，突然“砰砰”响起了枪声。张树义喊道：“鬼子向我们偷袭了，我们要勇敢、沉着，准备打击敌人！”
鬼子包围圈迅速缩小，情况紧急，必须立即突围。张树义唰地上好刺刀，喊道：“老战士跟我来，其余的跟上！”20名老战士立即上好刺刀，跟着张树义像猛虎下山般朝敌人冲去。
密集的炮火向他们倾泻而来，烟尘漫天。枪弹也“啾啾”地叫着从头上掠过。发了疯似的鬼子妄图把这一小股八路军消灭。张树义带领战士们毫不畏惧。一阵风似地冲进了敌群。鬼子恼火了，端着刺刀嚎叫着包围过来。张树义和战士们斗志高昂，以凛然正气，英勇地同成群的鬼子展开肉搏。刺刀翻飞，杀声震天，一个个鬼子像麻袋包一样倒在战士们的脚下。鬼子害怕了，急忙调集兵力，成群结队一窝蜂地围了过来。
“不能耽搁，必须尽快突围！”张树义这样想。他手疾眼快，从腰中抽出手榴弹，急令战士们也操弹在手，一声猛喝：“打！”20颗手榴弹像20发炮弹，在密集的敌群中开了花。烟雾弥漫，鬼子懵了。就在鬼子不知所措的顷刻，张树义率领战士们趁着烟雾，顺着炸开的缺口，飞速突围而去。
鬼子的包围失败了，但不甘心失败，又调兵遣将，向我进行一次又一次的“扫荡”。为了保存有生力量，粉碎敌人的“扫荡”，我军决定转移。张树义所在的机枪连担负了掩护大部队转移的任务。
大部队很快转移了，机枪连却被鬼子缠住，几次撤不下来，部队首长十分焦急。就在这个危急的时刻，张树义计上心来，忽地站起，跑到阵地的一个高坡上，虚张声势地又是射击又是投弹，鬼子的火力一下被吸引过去，火网露出了一道缺口，机枪连立即趁机撤出了阵地。当鬼子发觉中计发疯似地冲上来时，张树义已机智地回到了部队。这次战斗后，他被评为晋察冀军区第二军分区的战斗英雄。
1939年晚秋，张树义部队在五台山下的一个小镇上休整。一天，突然从村外传来清脆的枪声。战士们立即武装起来，待命战斗。张树义扛着一挺轻机枪，威严地站在前面，准备痛击偷袭的鬼子。
命令很快下来了，迅速组织突围。张树义率领全排的战士和四挺轻机枪，跑在队伍的最前头，准备用机枪杀出一条血路，掩护大部队突围。这时，村外的鬼子正在向前蠕动，包围圈在逐渐缩小，已看得清鬼子的面孔。
连长忽地站起来，猛一挥手：“打！”张树义的机枪怒吼了。手榴弹声骤然而起。鬼子被打得血肉横飞，包围圈立时被突破了一道口子，部队迅速冲了出去。但带着12门大炮的炮兵，因行动不便，未能突出去。张树义几次组织掩护，还是突不出去。
战士们的弹药不多了，鬼子又疯狂地组织进攻。此时，张树义只有一个念头：坚决保住大炮，掩护炮兵突围。他默默地卧在地上，准备用最后一梭子弹，再结果几个鬼子。
鬼子近了，更近了。张树义扣动扳机，鬼子的尸体倒在他的面前。这时，一名鬼子军官大嚷大叫地逼着再次冲锋，张树义瞄准他，一扣扳机，可惜没有子弹了。战士们的子弹也打完了，情况紧急。张树义沉着地望着留下掩护的战友，坚定地挥着拳头说：“同志们，难道我们能等着当俘虏吗？难道能白白地把大炮送给敌人吗？不！坚决不能！为了让炮兵安全转移，只要我们还有一个人，还有一口气，就要战斗下去！”他站起来，甩掉身上的棉衣，挥动拳头喊道：“跟我来，从敌人手里夺刺刀拼刺刀！”
阵地上，展开了紧张、激烈的白刃战。
张树义犹如一只猛虎，端着从鬼子手里夺来的一枝装有刺刀的步枪，在敌群里东刺西杀，两个鬼子先后被他挑死在脚下。顿时，几个鬼子一齐向他围拢上来，企图夹击。张树义毫不畏惧，沉着应战。一把刺刀在敌群中左遮右挡，上下飞舞。他瞅准机会，一枪刺死了右边的一个，又飞速转身，把刺刀狠狠刺进另一个鬼子的胸膛。他刚摆脱敌人的夹击，猛见一个高大的鬼子正端着刺刀追赶着我们一名瘦小的战士，眼看鬼子的刺刀就要刺到这个战士的身上，张树义一个箭步猛蹿过去，一刺刀穿透了这个鬼子的后背。他正要拔出刺刀，猛听见背后有动静，他机敏地把头一低，一把刺刀带着风声擦头而过。他急忙用力拔出刺刀，瞅准了一个有利地形，一个鱼跃，跳到一道墙根旁，背倚墙根，瞪圆双眼，将刺刀指向鬼子。鬼子一见地形于己不利，刚一犹豫，张树义一个猛虎扑食，刺死了鬼子。另一个鬼子一下慌了神，没头没脑地刺了过来，张树义沉着地闪过，顺势用力一拨，翻手一枪，又刺倒了这个鬼子。
激烈的格斗，高度的紧张，大量的消耗，使张树义精疲力尽。他只觉得天旋地转，站立不稳，但掩护炮兵突围的责任感，革命战士的钢铁意志，使他保持着清醒的头脑。就在这时，他看见一个身材高大的鬼子，从对面向他冲来。他振作精神，以毅力和意志同这个鬼子展开了拼杀。两个回合后，鬼子见张树义呼呼直喘，力不从心，便狠狠地一枪刺来，企图一下子刺死他。张树义急忙一闪身，刺刀忽地一下从他胳肢窝下穿了过去，扎进背后的墙里。鬼子慌忙连拔带晃往外拔刺刀，张树义抓紧时机，飞身跃到鬼子背后，一咬牙，把鬼子刺了个透心凉。此时，我军接应的部队冲了上来，战斗胜利结束了。
这次战斗，张树义一人刺死了8个日本鬼子，缴获了八枝枪和1500发子弹。他的英雄事迹传遍全团，战士们编成快板赞颂他：
打竹板，响连声，八路军里出英雄。
英雄就是张树义，赤胆忠心为和平。
张树义，真英勇，鬼子见了头发懵。
刺刀翻飞刀光闪，一个一个归阴城。
胜利号角遍地鸣，树义浑身血染红。
身上扛着胜利品，保国杀敌立战功。
三天后，在庆功大会上，张树义被评为一等战斗英雄。
1940年8月，我军在华北发动“百团大战”，给日寇以沉重打击。日寇恼羞成怒，对我疯狂进攻。10月，阜平县龙泉关战斗打响了。张树义带着17挺机枪，守卫在前哨山头桃花山阵地。数千名鬼子在飞机、大炮的掩护下，向我军发起一次又一次的进攻，桃花山也被炸成一片焦土。张树义和战士们以最大的努力，英勇战斗，在阵地上顽强抗击了3天。眼下，阵地上战士越来越少了，粮食和水也没有了。他把战士们召集在一起说：“同志们，能否守住桃花山阵地关系着整个战斗的胜败，为了完成党交给的任务，我们向党宣誓：我们要和阵地共存亡，只要还有一个人，就要坚决守住阵地！”
几次反冲击过去了，最后，阵地上只剩下张树义一个人。他意识到自己责任的重大，以无比的勇敢，用一挺机枪顽强地阻击着成群的鬼子。正在他拼命扫射的时候，一架敌机呼啸着从他头上俯冲下来，丢下一串呼呼作响的炸弹。他急忙抱着机枪向旁边一个弹坑滚去，在一阵震耳欲聋的爆炸声中，他失去了知觉。恰好此时，我军的增援部队火速赶来，接守了阵地。
张树义躺在军区医院的病床上，昏迷不醒。两只胳膊被绑在一块木板上，葡萄糖液一滴一滴地流进他的身体。
两天过去了，他仍在昏迷中。团长、政委、营长、教导员万分焦急，多次来看望他。医生和护士想尽办法，全力抢救。他终于慢慢苏醒过来，但是被炸断的两条腿的伤口却溃烂发炎了，而且一直向上蔓延。为挽救他的生命，上级再三考虑，决定锯掉他的双腿。张树义难过地哭了。但是，他毕竟是个经过战争磨炼的革命战士，毕竟是个共产党员。他咬紧牙关，忍受着剧痛，接受手术……
部队随着战争形势的变化，需要化整为零，医院也不得不分散隐蔽。1941年4月，他带着伤残和荣誉回到了家乡。母亲难过地抚摸着他的头，说：“树义，你可回来了，可你的腿……”
如果在过去，他会和母亲一样，娘俩儿抱头痛哭一场。可现在不同了，他是位经过党的教育和战争考验的共产党员。微笑着对母亲说：“娘，不要紧，不要难过，我虽然没了两条腿，但我还能工作，还能生活。你放心吧，总有一天，咱们会过上好日子的。”
村党支部书记来看他，他拉着支书的手激动地说：“支书，村里的工作这么多，我却躺在炕上，让别人养活。请你给我任务吧，只要我活着，我这半截身体仍是党和人民的。打仗不行啦，生产还是老行家，我要出来工作，绝不躺着让大家养活。”
他毕竟是个失去双腿的残废人。站不起，走不了，怎么能参加工作呢！张树义决心攻下走路这一关。用手拄着地，以手当脚一点一点艰难地向前挪动。由一次爬一步，到一次爬两步……两条断腿的伤口磨破了又愈合，愈合了又磨破。终于有一天，他爬到了离家三十多步远的菜园里……
日本鬼子一次又一次地向我抗日根据地“扫荡”，企图消灭我抗日武装。为了粉碎日寇的进攻，上级号召支前参军，壮大队伍，打击敌人。村党支部书记响应号召，率领着几名青年参军走了。支书的重担落在了张树义的肩上。当时天大旱。送走了支书，他立即召集几名党员开会，商量如何抗旱保苗。经过一番讨论，决定立即组织群众，迅速起来抗旱，夺取丰收，支援前线。张树义想到：自己是党支部书记，必须带头做个样子，用事实鼓励群众。他找来两只水桶，把水桶挂在脖子上试了试，虽然有些晃荡，但觉得坚持一下还是可以的。他高兴得笑了起来。
他挂着水桶，立即爬到河边。他跪着把水桶装满水，按照试验的办法挂在脖子上，坚持向前爬，终于爬到地边，将第一桶水浇在了干渴的禾苗上。
第二桶又浇在田里了。第三桶，第四桶……他不停地来回爬着，忘记了饥饿，忘记了劳累，忘记了伤痛。村长见了，万分感动，赶忙劝阻说：“树义同志，你快休息，让我来吧！”
张树义深情地说：“村长，‘人无头不走，鸟无头不飞’，我这样做，是想给大家作个样子。可光一两个人行动起来还是不行，我们应该把党员和一切积极分子都动员起来，做出样子，给群众看，事情就好办了。”
群众闻讯赶来，被张树义的行动感动了。轰轰烈烈的抗旱热潮掀起来了。秋天，人们捧着收获的粮食，心里都想到了张树义，踊跃交公粮送前线。
1942年11月，日寇开始“扫荡”张树义的家乡，县城里的鬼子增多了，随时都会出来骚扰。张树义按照上级的指示，组织群众坚壁清野后，便迅速让乡亲们转移。为了掌握鬼子的情况，及时和游击队保持联系，同时，也为了不给乡亲们增加困难，他再三说服乡亲让他自己留下来执行任务。
村子里的人走光了，空荡荡的。张树义隐藏在一个地窖里，密切注视着情况的变化。没想到，鬼子竟在村头修起了炮楼，作为据点，准备长期盘踞。炮楼里的鬼子经常四处骚扰，村子里不安全。张树义果断决定，向鬼子对面的山上转移。他找来了一双破鞋底，做成垫子捆在断腿的下端，背上剩下的一点干粮，在一个漆黑的夜晚爬上了山。在半山腰，他找到了一个被茅草掩盖着的山洞，这是个既能隐蔽又便于观察敌情的好地方。
他迅速安排好了住处，就接连几天拖着伤残的身体爬来爬去地观察敌情，终于数清了鬼子的人数。可怎么向游击队报告呢？游击队又在哪儿呢？每当夜深人静的时候，他就在山上爬来爬去到处寻找，但都落空了。
带来的粮食已经没有了，仍不见游击队派人来。他决定作长期坚持的准备。深夜，趁敌人熟睡之机，悄悄地爬回村里，找到一只破铁锅带回山洞，以石取火，煮着山上的干野菜充饥。
严寒的冬季熬过去了，春天来到了。一天夜里，他终于和多次来找他的游击队取得了联系。他激动地向游击队报告了敌情，又接受了新的任务：侦察敌人的增援部队和武器情况。
他带着新的任务，出没在山顶、沟谷，常常深更半夜爬进敌营，给游击队侦察敌情。为了能有粮吃，他又开始了新的生活。白天，他怕鬼子发现，就用野草把衣服擦成绿色，跪在山坡上，艰难地开起荒来；夜晚，摸黑刨挖。一小块一小块的梯田被他开垦出来了，山坡上长满了绿油油的禾苗。收获的季节到了，竟收了七石多粮食。就这样，他一个人像当年守山头一样在山洞里边斗争，边生产，坚持了将近三年。
1944年，下乡“扫荡”的鬼子在抗日军民的打击下，被迫撤回到城里。久久不归的乡亲们陆续回来了。张树义把自己住了近三年的山洞收拾了一下，背上他的小铁锅，匆匆下了山。
乡亲们见了，又惊又喜，一个个向他围拢过来，询问着、诉说着。人们激动地喊道：“张树义这半截人真成神啦！”
1946年1月，在晋察冀边区冀晋区生产大会上，他被选为劳动英雄。晋察冀军区所属冀晋军区授予他“荣军旗帜”称号，并赠给他一面绣着“荣军旗帜”金字的奖旗。1950年9月，张树义出席了在北京召开的全国工农兵劳动模范代表会议，并当选为大会主席团成员，还列席全国战斗英雄代表会议。此后多年，数次被评为模范，毛泽东主席曾五次接见他。