日本的選舉管理機構分中央和地方兩個層級。中央選舉管理委員會由正式委員和候補委員各5人組成，由國會從年滿30周歲以上、國會議員以外的選民中選擇推薦，由內閣總理大臣任命，任期3年。中央選舉管理委員會的主要職責是負責參議院全國選區議員的選舉組織工作。地方選舉管理委員會由正式委員和候補委員各4人組成，由地方議會從選民中選定，任期4年，其工作受內閣自治大臣的指導和監督。地方選舉管理委員會不僅要負責都道府縣等地方議會議員和知事的選舉組織工作，還要負責眾議院議員和參議院地方選區議員的選舉組織工作。
1889年的《大日本帝國憲法》，令日本國民有史以來第一次取得了選舉權，它最早對選舉和選舉製度做了法律上的規定：隻有年滿25周歲以上、繳納國稅15日元以上的男子才有選舉權；而作為候選人，則必須繳納2000日元的保證金，且若不能得到法定的票數，將沒收保證金。由此可見，當時的選舉製度具有嚴格的財產和性別限製，這使得當時實際擁有選舉權的人數隻占日本總人數的1.1%。後來，選舉人的財產限製有所變化，1900年降為10日元，1919年降為3日元。1925年，選舉人和被選舉人的財產限製被取消，但性別限製依然存在，而且選舉也僅僅局限於眾議院議員的選舉，參議院議員則由天皇直接任命。
1945年日本戰敗投降後，對選舉製度進行了改革。同年12月公布的《眾議院議員選舉法修改綱領》，將選民的年齡降為20周歲，被選舉人的年齡降為25周歲，同時婦女也獲得了選舉權和被選舉權。按照這個修改綱領，日本實行大選區製：根據地域人口的比例，全國劃分為54個選區，各選區分配的候選人名額從2名到14名不等。1946年4月日本舉行的戰後第一次大選，就是采取這種方式進行的。但結果是各黨派議員的票數過於分散，獲得最多票數的自由黨也隻以140票就取得了絕對的優勢。為了改變這種票數過於分散的弊端，1947年3月再次對該選舉法進行了修改，將選區劃分由大選區改為中選區製：全國劃分為117個選區，每個選區分配3—5名議員候選人名額。以後，根據人口變動等情況，又對選區作了適當調整，改為全國劃分為130個選區，每個選區選舉產生3—5名議員。
1946年日本頒布的新憲法，將參議院議員由天皇直接任命改為普選產生。按照其後製定的《參議院議員選舉法》，參議院共設252個參議員席位，其中100名是以全國為一個大選區，統一選舉產生；另外152名參議員，最初與眾議員一樣，即從全國的130個選區中選舉產生。
1950年5月頒布的《公職選舉法》對國民的選舉權、被選舉權、議員定額、選舉程序、選舉活動及選舉經費管理、違法行為處罰做了具體規定。
1982年，國會通過一項改革參議院議員選舉方式的決議，將152名參議員由全國130個選區中選舉產生，改為按地方選區選舉產生，即按全國47個都道府縣各設1個選區，每個選區按人口比例分配2—8名議員名額；將100名全國議席的參議員選舉改為限製名簿式比例代表製，選民在選舉中直接投政黨的票，而不是具體的候選人，而內閣首相，則由國會議員選舉、天皇任命、間接選舉產生。
1993年日本大選後，通過了《政治資金規正修正案》、《政黨助成法案》，對議員選舉中經費問題作出了規定。
1994年，日本對議員選舉製度再次進行大幅度的改革，實行混合代表製（即采取雙票製）：即將全國劃分為300個小選區，每個選區產生1名眾議員；同時將全國再分為11個大選區，以比例代表製方式產生其餘的300名眾議員。選民在一次選舉中同時投兩張選票，一張投給小選區的某個候選人，另一張投給大選區中的由某個政黨提出的候選人名單。小選區以簡單多數製產生議員，但所得票數不得少於有效總票數的六分之一；在大選區的選舉中，一個政黨隻有擁有5名國會議員或擁有該大選區議員總數20%的議員，並在最近一次選舉中獲得2%以上的選票，才有資格提出候選人名單。通過這次改革，基本形成了日本現行的議員選舉製度。