地元では俗に『総社宮（ｿｳｼﾞｬｸﾞｳ）』、『総社の宮』などと呼ばれている。また、他の総社と混同を避けるために、『備中国総社（宮）』などとも呼ばれることがある。

古代、日本では各国の国司という職の者が国内の神社を巡拝していた。　しかし平安時代（飛鳥時代後半や奈良時代ともいわれる）になると、それを簡略化するために各国の国府に近いところに国内の神社の祭神を一カ所に集めて祀り社を建てた。　これが総社である。 備中国の総社がこの神社。　全国の総社の中で最も祀っている祭神の数が多いとも言われる。
多くの総社が中世以降、衰退していった。　しかし、備中国総社は今もその規模を維持している唯一と言っても良い総社である。
また、備中国総社は、現存する総社の中で、社殿規模および境内規模が最も大きい。

境内には池があり、"三島式庭園"を形成している。　後楽園を造園する際に、この総社の三島式庭園が参考にされたと言われている。

元々、この地（当時の賀陽郡八田郷）には延喜式内社・野俣神社があったといわれ、その境内に総社が建てられたようだ。　後、総社と野俣神社の立場が逆転していき、野俣神社は総社宮の境内社となった。　その後、野俣神社は沼田神社とも呼ばれるようになり、さらに天満宮を合祀したために『沼田天満宮』とも呼ばれる。　現在も総社宮の境内社として現存していえる。境内南側（商店街沿い）の入口の鳥居には『沼田神社・天満神社』と書いてあり、さらに社号標は『総社神社』と『沼田神社』の2本が建てられている。

総社宮の周辺はかつて大変にぎわっていたといわれ、門前町を形成、『松山往来』などの街道も整備され宿場町としても発展した。　この門前町・宿場町は総社宮の名を取って俗に『総社』の街と呼ばれるようになり、明治以降は総社村、総社町そして総社市へと変遷していった。　つまり、総社宮は総社市の地名の由来なのである。　なお、かつての門前町・宿場町は現在の総社商店街にあたる。