1886年底，他開始了使他後來名垂千古的電磁學實驗。
電磁學在1840年有了迅速的發展，在經曆了安培、奧斯特、諾伊曼、韋伯等人的努力，電磁學走向了一個錯誤的極點。而法拉第、麥克斯韋等人卻建立了與安培等人的相對立的理論。麥克斯韋建立了“電磁波”這個嶄新的概念。他還從理論上預言了電磁波的速度是有限的，它等於光速，預見了光波和電磁波在許多方麵都具有相同的性質。另外還有別的理論也不時地被人提出。綜上所述，19世紀中葉的電磁學還處於百花齊放的時代，還沒有形成統一的理論。亥姆霍茲把這個時期的電磁學領域稱為“無路的荒原”。1870年亥姆霍茲開始試探統一諾伊曼、韋伯和麥克斯韋理論的可能性。
在赫茲之前有許多人對電磁波進行了許多的觀察和試驗，其中包括愛迪生。但他們都沒有從本質上對電磁波進行驗證。
1886年赫茲在卡爾斯魯厄高等工業學校工作時，他幾乎整天整天地呆在學校的實驗室裏，有時幾乎忘記了吃飯和睡覺。有幾次，隻有伊莉莎白找到實驗室，才能把他從實驗室拉回家中。
影響世界科技文明的偉大發現就出現在這一段廢寢忘食的試驗中。有一天，赫茲突然發現通電的線圈周圍的次級線圈產生了火花。他移動次級線圈發現在有的位置有火花產生，有的位置卻沒有。他被這個奇妙的現象震驚了，一種壓抑不住的喜悅湧上心頭。他恨不得把這種現象告訴他身邊的每一個人。他說：“在變化的條件下，我偶然發現了次級火花現象……起初，我以為火花的產生可能是紊亂和無規律的，但是我發現次級線圈存在著某些點不產生火花……我就信心百倍地相信柏林科學院的問題能夠解決了。”
這時的赫茲是無所牽掛的，自從結婚後，他有了一個美麗善良的伊莉莎白。伊莉莎白是他的賢內助，他沒有後顧之憂。他開始一門心思地做電磁波實驗，別的事情他的妻子都會幫他打點。因此在科學研究中他顯得信心十足，渾身是勁。在那個簡陋的、堆滿了各種各樣破舊裝備的陰森森的小房子中，他度過了一個又一個日日夜夜。有一次，他正在潛心做他的實驗，突然覺得脖子上有什麼東西。他並沒有怎麼在意，隻是用手往脖子上一拍。“吱吱”，一聲尖銳的鼠叫從背後傳來。他嚇得一隻手一抖，手摸到了裸露的電線，頓時一種說也說不清的滋味傳遍全身。好在實驗的電壓不是很高，對生命沒有構成很大的危險。他呆呆地站在原地足足有半分鍾沒有緩過勁來。這簡直把他嚇傻了。
隨著實驗不斷地進行，工作變得越來越繁忙了。正在此時，他的妻子為他懷上了第一個孩子，他忙完了實驗室，還要回家看望和照顧妻子。原來就不怎麼胖的赫茲日漸消瘦，這使得伊莉莎白看在眼裏，疼在心裏。最後隻得把漢堡的母親請到卡爾斯魯厄。就在他即將完成電磁波速度測定的實驗時，他的大女兒呱呱墜地了。這給赫茲帶來了無窮的樂趣。1888年3月赫茲終於精確測量出了電磁波的速度。他精確地算出電磁波的傳播速度就等於光速。
完成了電磁波速度等於光速的證明之後，他並沒有停步不前。他腳踏實地的一步步證明電磁波和光波的其它的相同性質。赫茲完成電磁學實驗時年僅31歲。1889年維也納科學院授予他Baumgartnet獎，此後他相繼獲得了法國科學院、英國皇家學會、都靈科學院頒發的各種獎章。1888年到1892年間，他相繼被聘請為柏林科學院、曼徹斯特圖書館和哲學學會、劍橋哲學學會等重要學術組織和團體的成員。