朱雀天皇の勅願の寺である。

会津在の大口大領は、霊感によって得た榎材をもって京都に上り、７尺５寸の大像の観音を仏師に刻ませ奥州に向かったが、途中美濃の山中で像が動かず、ここを結縁の地と定め、この地にいた豊然（ぶねん）上人の助力を得て巌を穿ち堂宇を建立して谷汲山を開山した。

像に華厳経が書写されていたので、醍醐天皇より華厳寺の扁額を下賜され、のち勅願寺となった。

本尊は秘仏である。