脊髓外表呈扁圓柱形，位於椎管中，上端與腦相連，下端平齊第一腰椎下緣。在脊髓橫切麵上，中央部灰白色、呈蝶形結構的部分叫做灰質，它是神經細胞體彙集處。位於前麵的灰質叫前角，是運動神經，造成小兒麻痹症的原因就是因為此處發生了病變。後麵的灰質叫後角，是接受感覺神經傳入的部位。脊髓灰質是反射活動的中樞部分。灰質周圍顏色較白的部分稱為白質，它是神經纖維集中的部位。在主脊髓炎、脊髓腫瘤等病例中，由於脊髓受損而出現脊髓功能的損害。
脊髓兩旁自上而下連著31對脊神經，其中頸神經8對，胸神經12對，腰神經5對，骶神經5對和尾神經1對。每對脊神經在脊柱旁邊分為前支和後支，分布於軀幹和四肢，調節軀幹和四肢的活動。脊神經從椎管發出後，除胸神經單獨形成肋間神經支配胸腹部皮膚肌肉外，其他的脊神經相互結合起來形成神經叢。從各種神經叢又分出許多周圍神經，分別分布到頸部、上肢、上胸、下肢和會陰部的皮膚肌肉等。臂叢神經痛和坐骨神經痛是常見的神經叢受損症狀。
脊髓主要具有反射的機能；在神經係統的參與下，人體感受刺激作出反應的活動叫做反射。完成反射活動的結構叫做反射弧，它包括感受器、傳入神經、神經中樞、傳出神經和效應器5個環節。例如，膝反射，當用小槌扣打膝蓋下麵的韌帶，這個刺激引起肌腱和肌肉內感受器產生興奮，興奮沿傳入神經傳入脊髓(中樞)，脊髓將興奮通過傳出神經，傳到效應器——大腿的肌肉，引起肌肉收縮，使小腿前伸。這就是通過反射弧進行的反射活動。脊髓能完成的反射活動還有很多，如排尿、排便反射等。檢查脊髓各種反射活動是否正常，可以了解神經係統生理活動情況和病變部位。人體脊髓的正常反射活動是在神經的最高級部位——大腦皮質的調節下進行的，當脊髓失去高級中樞的控製時，脊髓反射就會發生異常。