其父为清末进士，曾在江苏南通为官，贞白随侍，是时年十四，拜状元
张謇为师，学习古文诗词，打下了扎实的基础。30年代，又随父定居沪上，因得广交师友，继续潜心于文史学习和研究。曾考上持志大学和东吴大学，但均未前去报到就读。1930年起在上海税务署、上海交通银行任科员和秘书。1944年8月——1945年6月在南京任中央大学教授，掌文学院古典文学教席。1946年在南京任合作金库秘书。1948年，在上海松禅图书馆任馆员。新中国成立后，先后任职于华东文化部文物处、上海人民图书馆等单位。1957年，调入
古典文学出版社任秘书。中华上编成立后，任古籍整理编辑组副组长、编审。审读了大量古籍整理和版本目录学的书稿，其中有
朱东润编年校注的《
梅尧臣集编年校注》、李庆甲校点的《
词综》，以及《
中国丛书综录》等。1970年3月退休后，曾担任“二十四史”整理本的校样审读工作。粉碎“四人帮”后，又应邀担任
上海古籍出版社的编辑培训工作。1982年，被上海市古籍整理出版规划小组聘为顾问，参与规划制订。编辑之外，1956年起担任
华东师范大学兼职教授，给研究生和青年教师讲授版本目录学和古典诗词等课程。晚年，又被华东师范大学和复旦大学聘为兼职教授，指导硕士研究生。1984年9月的一天，蒋天枢先生陪着吕贞白与顾廷龙先生来复旦大学古籍研究所，与我们研究生见面。吕贞白拟给研究生讲版本，他衣着随便，一副山人打扮。谁知还没开课，他便于10月8日因心脏病突发去世。
吕贞白学殖深厚，群经外，喜诸子，又长于版本目录之学。著有《淮南子斠补》、《吕氏春秋斠补》。他去世后，尚有遗著数种。蒋天枢为其整理汇编遗著，有《吕伯子遗书序》称：“余交伯子久，得读伯子诗词始深知之。……伯子为人诚挚，笃于友谊，不轻然诺，久要不忘。今世之‘古道可风’人也。”
吕贞白擅诗词。他少从
同光体诸诗人游，诗宗山谷，有“须知诗是吾家事，莫忘江西宗派图”（《示小姮》）之语；词则受朱孝臧、夏敬观诸老影响，
师法美成。有《吕伯子词集》、《吕伯子诗存》，门人喻蘅遵师嘱托辑印。老人
伉俪情深，其夫人罗氏是其表姐，相伴几十年。夫人逝世后，他誓不再娶，其哀思发于诗词中，所作诗词十九皆悼亡之什。其词典雅含蓄。如《临江仙》词：“红紫缤纷铺净土，梵天着意护婵娟。奇葩与我共年年。终怜栖梦境，回首一凄然。 劫后休寻尘外影，多情花是有情禅。无情最是月长圆。难消终古恨，莫问再生缘。”其诗“大抵治学论道、怀人伤逝、抚时感事、览胜写景、谈艺咏物等类。既可概见吕公博大精深之治学渊源，好古敏求之艺文品鉴，耿介拔俗之秉性情操。并以公早年曾从学于宗师大儒，交游多当代耆彦，故诗中不乏可资补充文坛史实之宝贵资料。匪独以才调卓荦、文采隽美、韵律精严见胜也”（喻蘅《〈吕伯子诗存〉编后记》，《古典诗学会探》，第8页，
复旦大学出版社2006年版）。
吕贞白喜
奖掖后进。章培恒《怀念吕贞白先生》（《文教资料》1988年第5期；又载氏著《灾枣集》，
山东友谊出版社1998年版）一文提到上世纪六十年代初，吕贞白知道他在写《洪升年谱》，就主动为他找资料；《洪升年谱》写成后，吕贞白又细读一遍，提出意见；又赠章培恒《
宋六十名家词》、“二拍”等书，给他之后的研究以很大的帮助。黄永年也有《回忆吕贞白先生》（载氏著《
树新义室笔谈》，
上海书店出版社2000年版）一文，提到吕贞白指导他版本目录学的经过和他们之间四十年不渝的师生情谊。
关于吕贞白的传闻有不少，尤其是他的独特
个性。
陈巨来的《
安持人物琐忆》（上海书画出版社2011年版）中，有一篇《记十大狂人事》，把吕贞白称为“十大狂人”之一，记述了吕贞白年轻时
恃才傲物的狂态。同列的“狂人”还有诗人冒孝鲁、书法家潘伯鹰、画家白蕉、篆刻家邓散木、书画鉴定家徐邦达等，不过这些人确实都是有才之人。晚年的吕贞白仍自视甚高。上世纪80年代初为研究生的刘永翔，当时从吕贞白学习诗词，曾写道： “往来久了，我发现传说吕老爱骂人的事的确不假，他于当世许多学人皆有不足之词，有些意见是针对其人其事的，有些是关于学力和学风的。老人招怨甚多，与此大有关系。性直如此，而为词却那么委曲婉约，正合古人‘为人须直，为文须曲’之说”；但是，“在另一方面，吕老对有
才学的前辈充满了
敬意，如对于夏敬观、朱孝臧、汪东诸老；对勤学的后辈也只有褒词，如对于章培恒先生等”（《记吕贞白先生》，《蓬山舟影》，汉语大词典出版社2005年版）。