世界上最早的魚雷是浮標魚雷，就是將炸藥包掛在浮標下方的水中，浮標浮在水麵，本身無動力，靠潮流推向敵艦而引起爆炸。美國南北戰爭時期，南方用此攻擊北方軍艦，沉毀22艘，北方用以攻擊南方，沉毀6艘。在中英鴉片戰爭時，中國人民也曾利用類似的武器攻擊珠江口的英艦。
世界上第一條自動魚雷是奧匈帝國在1868年製造的，研製者為英國籍的工程師羅伯特·懷特海德。由於懷特海德名字的意譯為“白頭”，故習慣稱之為白頭魚雷。廠址在阜姆（今南斯拉夫裏耶卡）。這條魚雷直徑356毫米，長4.62米，重135.4公斤，航速6.7節，航程213米，裝藥8.2公斤。這種魚雷已具有現代魚雷的一切特征，如雷體呈魚形，雷頭部裝炸藥及引信，中段裝能源，後段裝發動機，雷尾有正反轉的螺旋槳。以後，懷特海德把他的發明專利售給了當時的各海軍國，成為各國發展魚雷的開端。
1878年1月25日，俄國海軍在巴統附近的海麵上，從艦艇上首次發射魚雷，擊沉土耳其的“莫基巴黑”型護衛艦，記下了魚雷的初次戰績。
世界上第一條人操魚雷是意大利研製成功的，其結構與普通魚雷相似。人操魚雷的特製座位上可坐兩人──駕駛員和潛水員各一名，他們穿防水服和配備供氧裝置。魚雷長6.7米，直徑0.53米，活動半徑約10海裏，最大航速2.5節，下潛深度達30米。人操魚雷裝在雷箱中，雷箱固定在潛艇甲板上由潛艇運往作戰區。然後乘員坐在人操魚雷上駕駛魚雷駛近到敵艦船底部後，乘人操魚雷的其餘部分返回潛艇。1941年12月18日，意大利人用這種人操魚雷，在亞曆山大港重創英國戰列艦2艘，擊沉油船1艘。
第二次世界大戰末期，日本為了挽回日暮途窮的敗局，研究了一種“回天”自殺人操魚雷。水下排水量僅9噸，雷頭被改為駕駛艙和戰鬥部，同時裝有彈跳裝置。當操縱者乘艇距攻擊目標45米時，一按鍵鈕，操縱者被彈到海裏，魚雷則自行飛向目標。這種自殺式“人彈”，日本曾多次使用，取得過一些微弱的戰果，但終究無力回天。
現代魚雷仍然是反潛作戰最有效的武器，也是反艦的主要武器之一。
近年來，由於核潛艇的水下航速已增至40節以上，潛深亦達450米左右，因而對魚雷的航速、潛深也提出了更高的要求。目前航速最大的魚雷是英國研製的“真旗魚”魚雷，其試驗航速已達70.5節，作戰航速將達65節以上。此外，這種魚雷重達1850千克，潛深1200米，同樣非其他魚雷能比。
世界上航行時間最長的魚雷是1916年5月31日，英國和德國海軍在日德蘭半島展開的一次激烈的海戰中，英國海軍“魯普斯”號戰艦右前舷第7號魚雷發射管發射的“日德蘭”魚雷。該魚雷長5.5米，重655千克，以壓縮空氣為動力。這枚魚雷自發射即日起，一直航行至1972年。共連續航行了56年，比當今世界上續航力最大的航空母艦還要長好幾倍。這枚魚雷在世界許多海域曾出現過它的行蹤。1928年7月12日，美國船員曾在百慕大三角碰見過它；1941年12月7日，有人見它遊過巴拿馬河進入太平洋，當時的報紙還發布了新聞；50年代，又有人發現它在大西洋漫遊；在巴西亞馬遜河三角洲，一名瑞士醫生還拍下了它的照片。對於它為什麼能航行如此長的時間，至今仍是一個謎。
1549年，為了對付倭寇的海上侵略，中國人民將火藥武器運用於水中，發明了一種人工操縱、機械擊發的“水底雷”。