日向国飫肥藩(おび、宮崎県日南市)生まる。1870年大学南校(東京大学の前身)入学。第1回文部省海外留学生に選ばれハーバード大学へ留学、法律を学んだ。司法省に入省し大審院判事を経て外務省へ転出。陸奥宗光に認められ、清国代理公使を務めた。日清戦争の後、駐韓弁理公使、外務次官、駐米・駐露公使を歴任。 1900年の義和団事件では講和会議全権として事後処理にあたった。
1908年成立の第2次桂太郎内閣の外務大臣に再任。幕末以来の不平等条約を解消するための条約改正の交渉を行う。