潜心好学，亦能文章，兼通列国语言文字，曾作为参赞出使俄国。回国后历任直隶按察使、甘肃布政使、新疆巡抚等职。其父何廉舫在曾国藩门下任职，曾任清同治吉安知府、江阴太守。其家富藏书，何廉舫建壶园时，中有精舍作藏书楼。何氏藏书从何廉舫开始，中间经其子何彦升、孙何震彝递藏，至民国时期藏书达四万余册，后来由于何氏家道中落，其藏书于民国年间，悉售于
上海商务印书馆，成为涵芬楼藏籍。在其出任甘肃布政使期间，敦煌遗书被发现，在运往兰州和北京途中，他和李盛铎在盗取了不少敦煌经卷，后来虽然上缴了部分经卷，但还是难逃其咎。