遊牧養畜業的出現經曆了一個漫長的曆史過程，它標誌著人類社會的一大進步。大約一萬年前，人類馴化了山羊，9000年前又馴化了綿羊、豬和黃牛。也就是說，羊是除狗外人類最早馴化的動物。我國馴化及養羊的曆史在8000年前，那時正是舊石器時代末期、新石器時代初期。在遍及全國22個省、自治區、直轄市的新石器時代遺址上都發現有羊骨、羊骨架、羊下頜骨、臼齒、羊牙床及陶羊、羊頭飾及陶羊圈等。如河南新鄭裴李崗發現了羊牙齒及羊頭骨；浙江餘姚河姆渡遺址出土了一些陶羊；西安半坡村發現了羊殘骨、牙齒，出土陶器上刻有羊的符號……這一切表明，我國黃河、長江、珠江、黑龍江各流域、沿海各省區及西北、西南地區，在新石器時代就已出現了養羊業。
原始人也將他們的牧羊生活通過岩畫表現了出來。一幅幅“牧羊圖”好似一部形象、直觀的牧羊史，從中既能看到牧人執鞭牧羊的“一條鞭”放牧方式，也能看到羊群自由散開吃草的“滿天星”牧羊方式。有騎牧圖，也有步牧圖；有單人放牧，也有雙人或多人放牧。從岩畫中，我們能領略到“風吹草低見牛羊”的壯闊，也能感受到“日之夕矣，羊牛下來”的溫馨；而不時竄進羊群的惡狼又使我們為牧羊的艱辛而感歎。
進入階級社會後，畜牧業仍是人們主要的生產方式，而牧羊業的發展更給人們提供了充足的衣食，因而曆朝曆代都非常重視牧羊業。
夏朝的遺址、遺跡目前發現的很少。但在屬於夏文化遺址的山西夏縣東下馮出土了3具羊骨架，說明夏朝也是有養羊業的。
據殷墟發掘所得動物骨骼、青銅器和玉器上的動物雕刻，以及甲骨刻辭的記載可知，在殷代，六畜（馬、牛、羊、豬、狗和雞）已得到普遍飼養。殷商時期，祭祀占卜之風特甚，用於祭祀的大多是家畜，一次用牲之數，少則一兩頭，多者達500-1000。如“降枴牛千人”、“五百伋”（一宰為一對羊），可見當時羊等家畜飼養之盛。
周時設有專管畜牧六畜的官員“牧人”。《周禮·地官》：“牧人，掌牧六牲，而阜藩其物。”周朝的畜牧業是很興旺的，《詩·小雅·無羊》為我們展現了一幅幅古代人民的放牧圖：
誰謂爾無羊？三百維群。誰謂爾無牛？九十其兒。爾羊來思，其角弔弔；爾牛來思，其耳濕濕。
或降於阿，或飲於池，或寢或訛。爾牧來思，何蓑何笠，或負其氾。三十維物，爾牲則具。
爾牧來思，以薪以蒸，以雌以雄。爾羊來思，矜矜兢兢，不騫不崩。麾之以肱，畢來既升。
牧人乃夢，眾維魚矣，旐維伕矣。大人占之，從維魚矣，實難豐年；旐維伕矣，室家溱溱。
詩的第一章寫牛羊的蕃盛。開頭以“誰謂”連發兩問而以“三百維群”、“九十其屘”來回答，顯示出牛羊數之多。正如朱熹《詩集傳》中所言：“羊以三百維群，其群不可數也；牛之屘者九十，非屘者尚多也。”接著描寫了羊、牛的神態：這麼多牛、羊在一起安息，卻互不驚擾，個個都在反芻，咀嚼有力，雙耳搖動。第二章寫牛羊有的走下山坡，有的在池邊飲水，有的正在睡覺，有的已起來活動。還出現了牧人的形象：披蓑戴笠，背著幹糧，一副很辛苦的樣子。但是有這麼多牛羊，品目齊全，可滿足各種需要，辛苦也值得。第三章寫了牧人放牧技術的高超，如，選擇有多種牧草的草場，並注意區別牛羊的性別，以便適時繁殖等。牛羊在牧人的管理、調馴下非常聽話，牧人一揮手，牛羊都回到了圈牢中。全詩以夢兆作結，夢見魚為豐年之兆，崁為家室繁盛之兆，這表達了人們美好的願望。從這首詩可知，當時放牧的羊群已很大，人們開始積累、總結一些好的放牧經驗。至春秋戰國時，飼養家畜家禽的人越來越多，甚至家家都在養，人人都在養，所以《墨子·無誌篇》說：“四海之內，粒食人民，莫不恥牛羊，豢犬彘……”在繁育禽畜方麵也注意到要“無失其時”（《孟子·盡心上》）。《莊子·達生篇》引田開之見周威公說：“善養生者，若牧羊然，視其後者而鞭之。”以牧羊喻養生，也說明牧羊業在當時是為一般人所熟知的行業。