王雲階天生兩隻“音樂的耳朵”，他對聲音的感覺特別敏銳。
除了國民小學，黃縣還較早地引進了電影。不過，當地人叫電影為影戲。王雲階看到大布簾子上，有人劃火點煙，有人口吐銀元，有人飛了起來。這太好玩了，他一動不動地看著。有時尿了褲子也不動。這幾乎成了小朋友們經常談論的笑話。布簾子上的人唯一和真人不同的，是不會講話不會唱歌。這讓他多少有些失望。他想，這影戲就差唱歌了。“這個我來做！”年幼的他堅定地想。
王雲階的聰明，四鄰街坊很快就都知道了。於是，就有人來給他提娃娃親了。按當時的風俗習慣，在孩子還未成年時，就由父母做主定親，到成年後就圓房。這就叫娃娃親。父母根本就不問孩子是否同意。這樣，王大爺就做主，給王雲階定了一門娃娃親。女的比他大三歲。纏過腳，沒有上過學。那時講究“女子無材便是德”，隻要長得端正就可以了。
父親在哥哥們的幫助下，在青島市福建路25號開了一家人力車公益公司。生活穩定了，父親就要接祖父和王雲階母子一起去青島。王大爺年紀大了，離不開故鄉。王雲階就隨著父母和兩個妹妹離開了故鄉和爺爺。
母子三人坐上了馬拉的大板車，向著一個好象很遠很遠的地方前進了。
交通很不方便。路是泥地，大車走得很慢，從黃縣到青島要走十多天。王雲階在大車上隻聽見單調的馬蹄聲和車軲轆的轉動聲。枯燥、煩悶、寂寞。他不斷地問媽媽“什麼時候才能到新的家呀！”媽媽也不知道有多遠，隻能安慰地說：“快了！”
媽媽帶在路上吃的幹糧快吃完了，可路好象還很遠很遠……10天後，青島終於到了。
青島有許多漂亮的房子，父親蓋的房子就是其中一個。青島是最早的對外通商口岸，曾割讓給德國統治了一段時間。在建築上，青島要求要有特色。有人要蓋房子，必須先將圖紙交上去審查，房子的造型獨特的，才會被批準。王雲階看到，父親蓋的樓很別致，有一點歐洲特點，但主要是中式的。樓下是人力車公司，二樓是他們的住房，上麵還有儲藏室和屋頂曬台。此外還有老家根本沒有的電燈，和做飯用的煤氣。
家裏最吸引王雲階的是一架有四組簧的風琴。當時，父親是買來當擺設的，根本不允許別人碰。他就冒著挨打的危險，隻要父親不在，就在琴上把從街上聽來的曲調彈出來。
父親將王雲階送到私塾去讀書。不久，又將他送到德國人辦的學校“禮賢書院”大約半年以後，同學們反對帝國主義侵略舉行罷課。王雲階又進了另一所“公立職業學校”。這所學校是培養商業人才的。他對經商不感興趣。這所學校最吸引他的是樂隊，一個能演奏複音的軍樂隊，還有一個學生組織的民樂隊“雅樂隊”。他參加了民樂隊，學習了幾種民樂器，還學會了絲竹合奏曲“梅花三弄”。因為學生在學校裏鬧學潮、公開進行政治辯論，這個學校不久也解散了。王雲階又轉入了美國教會辦的“膠東中學”，在這個學校裏讀了四年書。這個學校要求學生每周日要到教堂做禮拜。王雲階對宗教不感興趣，但對教堂裏唱的讚美詩卻十分喜歡，特別是鋼琴，隻要鋼琴的前奏一開始，他就著了迷，恨不得自己也到鋼琴上去彈一下。
來青島後的一個大年夜，有一位同鄉到王家來拜年。這個人說，他能在鋼琴上用右手彈奏曲調，還能同時用左手加打節奏的八度音。王雲階羨慕得不得了，年也不過了，非要跟著那個同鄉回家去，向他學習彈奏。當他真的走到鋼琴前，揭開鍵盤上覆蓋的絨巾時，他高興得心狂跳起來。
那一刻，他覺得離電影能唱歌的日子近了。
因為喜愛，王雲階參加了學校的“唱詩班”，唱四部合唱。當時，學堂裏沒有女生，他就唱女高音聲部。就是在鋼琴和合唱的吸引下，他迷上了西洋音樂。他向老師借了一本譜子，木刻的，專為自學五線譜用的四部合唱及鋼琴伴奏譜，他發奮自學。那本樂譜中的音符與一般不同的，一般音符都是橢圓形的。音符SO是橢圓形的，MI是菱形的，其他還有三角形的，方形的等等。王雲階靠著刻板的五線譜硬記，終於學會了五線譜，還擔任了“歌詩班”的風琴伴奏。後來聽了音樂會的鋼琴獨奏。
在這個學校裏，美術老師是一個有進步思想的青年。他很喜歡王雲階的繪畫作業，不但教他畫素描和油畫，還常常帶他到青島的山上和海濱作畫。有一個嚴寒的冬天，王雲階帶著二妹到外麵去寫生，他專心一意的畫，甚至把二妹也忘了。等二妹凍得哭起來時，王雲階才想起應當回家了。
這位美術老師常常講些中外藝術家的故事，逐漸地，開闊了王雲階的眼界。在老師的幫助下，他畫了不少的油畫。學校的走廊上、牆壁上掛的都是王雲階的油畫。由於他參加學校的合唱隊，彈風琴，又給學校畫了許多畫，學校就贈給他一枚銀質鍍金的獎章。
家裏給王雲階從小訂了一門親，這在他的心靈上留下了深重的陰影。他在青島受了“五四”運動的影響，也讀了不少要求個性解放，婚姻自由的文學作品。每想到自己由父母之命媒妁之言的包辦婚姻，他就萬念俱灰，了無生趣。當時，一位美術家，到學校來講演，題目是“藝術漫談”。那人說：“一個人如果心中有痛苦，而又不信仰宗教的話，藝術是最好的安慰”。他的話正對王雲階的心思，給了他的力量。他下決心要學音樂。因為他一向的誌願是要讓電影唱出歌來，同時，他也認為最能使靈魂得到安慰的是音樂的象牙塔。他渴望能到上海學習音樂。