大山祇神社の建立は以下のような由来譚が伝えられています。

「宝亀九年（西暦七七八年）、真海法師という老僧が来訪した。法師が眠りについた夜更け、法師を呼ぶ声が聞こえてきたという。法師が声の主を問うと"われこそは相模国三嶋大明神なり、この山に霊地あり。ここに於いてわれを山神として勧請すべし。火災、病苦諸厄を除き国中を安穏に擁護し、誠意を以って祈念する者は、一代に一回は必ず聞き召すべし"と厳かなる神勅をこうむった。法師はたちまち誠をこらして山に登り二夜三日の祈祷をこらして祠を築かんとしたところ忽然と幣束が現れたという。このことを村人に語ったところ皆感激して宝亀十年より石龕の建立をはかり九月九日に竣工し御遷宮式を挙行したと伝えている」

この由来譚によれば、勧請は宝亀九年とされており、奈良時代よりこの地を鎮守していたこととなっています。また、「なじょな（どんな）願いもききなさる山の神様」と伝えられているのはこの由来譚からと考えられています。