生于贫寒之家，幼年随父务农。1921年投身河工，先后充当汛兵、工班班长、汛目，后升任北六分段第三防守汛汛长。1937年年5月，黄河由花园口改道入淮，山东河务机构撤销，他回家务农。1947年春，黄河复归故道，河工百废待兴，于祚棠加入人民治黄队伍。在利津修防段(初称治河办事处)先后任工程股股员、副股长、工程队队长等职。1950年8月加入中国共产党。在党的培育下，于祚棠满怀热忱，勤奋工作，为人民治黄事业做出了卓越贡献。
1949年秋汛中，王庄堤段险情严重，急需石料抛护，但全段却只存300立方石料，杯水车薪，无济于事。于祚棠凭多年治黄经验，断然以万余条麻袋装入红泥3400余立方抛至河中，代替石料护根，保证了埽坝的安全。垦利一号坝、左家庄两地抢险员工如法仿效，相继化险为夷。1947—1949年，于祚棠在治黄斗争中，多次扭转险局，保障黄河安全。三年内荣立一等功3次、特等功1次。
1950年，苏北潮河决口屡塞不成，应华东水利部的邀请，于祚棠率领工程队赴工。他根据当地“油泥”河底的特点，改以秸料进占，迅速合龙成功。1951年春堵复王庄凌汛决口，他不顾寒水刺骨，带领工人下水打桩编柳，缓溜落淤。1955年五庄堵口兴工，他率领工人、民工苦练操作技术，在风雪中昼夜施工，两眼熬得红肿，仍不肯休息，直坚持到合龙。多次受到省地黄河部门表彰和嘉奖。
于祚棠在治黄战线上享有盛名，曾荣获
全国劳动模范及山东省劳模、黄委会劳模等称号。1950年9月被选为全河代表，赴京出席全国第一届工农兵劳模大会。1954年起，又连续当选为山东省第一、二、三届人大代表和利津县各界人民代表会议代表及
人民代表大会代表。