貞観元年(859年)大安寺の僧で空海の弟子だった行教が豊前の宇佐八幡宮で「京の都の近くにある男山に移座して国家を鎮護せん」と神託を受け、清和天皇二より石清水寺の境内に社殿を建てたのが始まりと云われています。
石清水八幡宮が創建されて石清水寺は神宮寺となりました。「徒然草」に麓の高良神社を八幡宮と勘違いしてお参りして帰ったという話があるほど栄えていきました。
天慶2年(939年)承平天慶の乱が発生し伊勢神宮に次ぐ地位を得て、「二所宗廟」と称されるようになり、朝廷の勅願による乱平定の祈祷を行うなど国家鎮護の社として、賀茂神社(上賀茂、下賀茂神社)や松尾大社、
春日大社などと同等の待遇を受けるようになりました。
この頃は石清水八幡宮寺と呼ばれ、寺院とされていたため式内社には含まれていませんでしたが、二十二社の上七社には含まれていたそうです。
平安京の鬼門を守護する延暦寺に対し、裏鬼門を守護する守護鎮護の神とされ円融天皇の行幸以来、天皇・上皇・法皇など行幸は240余りにも昇るそうです。
源義家が石清水八幡宮寺で元服して「八幡太郎」を名乗ったため、八幡神を氏神とする源氏から篤い崇敬を受けるようになりました。
慶長年間に入ると豊臣秀頼によって修復・再建が行われ、江戸時代まで「男山四十八坊」と呼ばれる塔頭・宿坊が軒を連ねていたそうです。
寛永11年(1634年)には徳川家光により主要な社殿が再建されました。
明治時代に入ると神仏分離により神号を「八幡大菩薩」から「八幡大神」に改め、石清水八幡宮寺から男山八幡宮に改称し神社となりました。
明治4年(1871年)に官幣大社になり、明治16年(1883年)には勅祭社となり、太平洋戦争の時には敵国降伏の勅願祭も行われました。
現在でも日本三大勅祭の一つの数えられる(賀茂神社の葵祭、春日大社の春日祭)石清水祭が執り行われています。