創建の年代は不詳であるが、清和天皇の時代に従5位上の神階の記事がある。『延喜式』では小社に列格し、飛騨国の宮と総社を兼ねた。鎌倉時代には水無大菩薩と称し、社僧が奉仕した。近世には水無大明神・水無八幡宮と称した。戦国時代の戦乱で祭祀が途絶え、附近の寺が管理したが、元禄年間から吉田神道系の神職が奉仕するようになった。
安永2年(1773)の安永騒動(大原騒動)では、水無神社が農民の決起集会の場所となった。その事により、神主4人が捕らえられ、磔にされている。
明治4年に国幣小社に列格した。明治7年から10年までは、島崎藤村の父で『夜明け前』の主人公・青山半蔵のモデルとなった島崎正樹が宮司を務めていた。
第二次世界大戦の時は熱田神宮の神体(天叢雲剣)が一時避難していた。ウイキペデア抜粋。