天保12年(1841年)5月17日、吉田松陰の叔父である家格大組士、玉木文之進の長男として生まれる。安政2年(1855年)に元服する。従兄の松陰とは仲が良く、元服のときから松下村塾で教えを受けたといわれる。
文久3年(1863年)に藩主の世子である毛利元徳の近侍となる。
元治元年(1864年)に長崎に留学し、帰国後に御堀耕助の御楯隊に入隊する。第1次長州征伐で長州藩が幕府軍に降伏したことにより幕府恭順派の俗論党が台頭すると、彦助は高杉晋作らと共にこれに反発。元治2年(1865年)1月16日には俗論党によって送られた軍と戦って敗れた上に負傷した。同月21日、吉敷郡小郡で自害した。享年25。