光绪二年（1876）代理两淮盐运使，驻扬州。时逢淮北饥荒，饥民多流散扬州一带。刘筑圩城外，构棚让饥民住宿，派员筹粮赈济，按人口发给，使6万多灾民得以平安度荒。后刘改任
苏松太道， 看到上海租界浦江停靠船位，经常受到破坏，外商经常侵入中国船只停泊的地方，就命人丈量江岸，重新作出规定，自此外商就不敢再来侵扰中国船只。光绪十一年（1885），刘瑞芬受命出使英俄等国，后虽被授为
太常寺卿，迁
大理寺，但仍留任为大使，改驻英、法、意、比等国家。在出使英俄等国初期，俄国人觊觎我国漠河金矿，他极力奔走总理衙门，主张自己国家开办。英国侵略我国西藏，刘瑞芬极力反对，维护国家领土统一。光绪十五年(1889），刘被召回国任广东巡抚。光绪十八年(1892)卒于任所。
驻外和国内任职时，左右不离书籍，购藏图书数万卷，对所收罕见之书，雇人传抄并刊印，他的藏书之风，深深影响了其家后代，第五子刘世珩，藏书10余万卷，藏于“玉海楼”中，为清末著名藏书家之一。著《刘中丞奏稿》4卷、《西轺纪略》1卷、《养云山庄诗文集》6卷、《青山诗集》6卷、《养云山庄奏稿》4卷等。