明崇祯十五年（1642）举人，能诗文，善骑射，好论兵事，曾官至南明兵部尚书。顺治二年（1645）清兵南下攻陷南京后，其投笔从戎，与钱肃乐、董志宁等人在城隍庙起义抗清，拥立鲁王监国。嗣后，与郑成功军配合，协同作战，辗转于苏皖浙闽一带。1658年，其部队溯长江而上，曾连续攻了四府三州二十三县。后遭清军重兵攻击而败。再招旧部，继续抗清。康熙三年（1664），闽南一战遭受重创，遂散兵隐居悬山岛。旋因叛徒出卖而被俘，清人礼待劝降不从。同年九月在杭州就义，遗体葬于南屏山下。有《张苍水集》行世。乾隆四十一年(1776年)，谥“忠烈”，宁波百姓为纪念这位民族英雄，于l936 年在改建贡院桥一带马路时，命名张苍水故居所临的马路为苍水街。
张苍水纪念馆位于苍水街194号，中山广场内，馆内陈列了根据张苍水史事创作的连环画、
张苍水文集和一些研究张苍水的资料。