祖父是会津藩大炮队长,父亲战死在伏见、鸟羽,他自幼和寡母在一起生活。后来得到萨摩藩主张公武合体的陆军少佐儿玉实文的资助,1887年
东京帝国大学毕业。后入
外务省。曾任中国烟台领事馆随习领事。
1898年任使馆参赞,一度代理馆务。光绪变法期间,以日本为师,他是两国政府间最重要的联络人,1898年 9月北京
戊戌政变发生后,曾大力救助光绪帝和维新派人士。事发当天,
梁启超赴日本公使馆请求保护光绪帝安全、营救
康有为时,他立即承诺;即刻致电驻沪总领事小田切万寿之助和
东亚同文会,要求全力营救康有为。9月23日梁避难日本公使馆后.他派人护送至天津.通知日本军舰、商船予以协助,终使康、梁二人抵达日本。后为驻日公使黄遵宪被拘一事多方奔走,终使清政府释放黄遵宪。又与各国公使联名致函总理衙门,迫使清政府保证没有废除光绪帝的意图。1899~1906年任驻朝鲜公使。
1905年代表日本与韩国签订第二次日韩协议书。经过七年活动,终于使朝鲜变成日本的保护国。1907年受封男爵,当时在
伊藤博文之下,与
桂太郎、
小村寿太郎并称治韩三杰。1908年任驻意大利大使,1916年至1918年在特别需要慎重的时候再任驻华公使,1919年11月任关东厅长官,在中国东北旅大地区推行殖民统治,掠夺沦陷区人民,适应日本侵略战争政策。
1920年任驻英大使。代表日本出席第一次世界大战后在欧洲举行的历次会议。1925年9月辞职听用,11月任宫内府秘书,再度赴英,辅导在牛津大学读书的
秩父宫雍仁亲王,旋退出外交界。1928年任式部长官。1928年8月9日,以参加张作霖葬礼的名义到沈阳,与
张学良就“
东北易帜”事件进行谈判,失败。
张作霖葬礼于8月5日举行。林权助参加了丧葬仪式。田中首相托林权助给张学良带来了口信,劝告中止与南方合作。
他虽然出身于明治维新时人称叛军的
会津藩士之家,但进入外交界后居然大露头角,为在欧美之后参加帝国主义竞争的明治、
大正时期的日本外交,表现出适当的智谋和胆略,终于成为一个很好的外交家。不论是外交工作期间或在卸职之后,都是日本最博得信任的外交人员。