東文明10年（1478）太田道灌が江戸城築城に際し、川越の無量寿寺より鎮護の神として川越山王社を勧請したのにはじまるとされる。徳川家康が江戸に移封され、江戸城を居城とするに至って「城内鎮守の社」として江戸城の鎮守とした。

二代将軍秀忠公よる江戸城改築の際、社地を江戸城外の麹町隼町に遷祀し、庶民が参拝できるようになった。
明暦3年（1657）明暦の大火により社殿焼失に遭い、時の将軍家綱が赤坂の松平忠房の邸地を官収して社地にあて、現在地に遷座した。

明治元年（1868）11月の東京奠都の際に准勅祭社に指定され、その後、皇城鎮護の神社とされ官幣大社に昇格した。昭和20年（1945）の東京大空襲で、末社山王稲荷神社を残し社殿が焼失し、昭和33年（1958）本殿遷座祭齋行、引き続き神門・廻廊・参集殿が逐次完成した。

東京メトロ南北線・銀座線 溜池山王駅／千代田線・丸の内線 国会議事堂前駅　下車 5番出口
銀座線・丸の内線は一旦、他線のホームを経由します。
出口を右へ（左は首相官邸があるので警察官がいます）、山王坂下の信号を左折すればすぐです。
　
7番出口でもよいです。こちらは出口を出て右手に進み、山王パークタワーを過ぎると鳥居が見えます。
山王パークタワーのＢ１階レストラン街を通り抜け、１番奥の階段を上るとすぐ先に山王橋の鳥居が見えます。
この抜け道が一番便利なんですが....。
こちらの山王橋参道は、エスカレータが設置されているので、階段が苦手の方には便利です。