中央音樂學院建于1950年，其前身是二十年代至四十年代的各具特色的幾所高等音樂院、系。分別是建于1927年的燕京大學音樂系，建于1939年的華北大學文藝學院音樂系，建于1940年的南京國立音樂院，建于1946年的國立北平藝術專科學校音樂系和香港、上海的中華音樂院，建于1948年的東北魯迅文藝學院音樂系等。其主體是南京國立音樂院。1958年學院由天津遷至北京，坐落在北京西城區復興門原清醇王府舊址（光緒皇帝出生地）。原隸屬文化部，2000年歸屬教育部。1960年被定為國家重點高等學校，1999年被列入國家“211工程”建設學校；是目前全國藝術院校中唯一的一所國家重點高校和“211工程”建設學校。歷任院長為馬思聰、趙?、吳祖強、于潤洋、劉霖，現任院長王次?。

學院自建院以來，迄今已形成了體現教學、科研、藝術實踐綜合功能的，從附小、附中、大學本科到碩士研究生、博士研究生、博士后流動站等完整的大中小一條龍的音樂教育體系。現設作曲系、音樂學系、指揮系、聲歌系、鋼琴系、管弦系、民樂系、音樂教育系、基礎教育部以及附屬中小學、繼續教育學院、遠程音樂教育學院等教學部門。學院還設有集教學與科研為一體的音樂科技部，其中包括提琴制作研究中心、現代電子音樂中心、音樂治療中心和嗓音研究中心等。2000年建立了全國藝術院校中唯一的一所人文社會科學重點研究基地?中央音樂學院音樂學研究所。學院還設有社會音樂教育部和海內外社會音樂考級委員會，以及中央音樂學院出版社和環球音像出版社。形成了既為全國音樂教育中心，又為全國音樂研究、創作、表演中心和社會音樂推廣中心的辦學模式；成為一所能代表中國專業音樂教育水平、專業設置比較齊全的在國內外享有很高聲譽的音樂學府。

中央音樂學院是全國高校首批博士點授予單位，并于2003年經國務院學位辦、人事部、教育部共同審批通過了全國藝術類中第一個博士后流動站。中央音樂學院音樂學學科（包括作曲與作曲技術理論、音樂學和音樂表演藝術）為全國重點學科。學院擁有國內最大的專業音樂圖書館，館藏圖書資料53萬冊；同時還擁有《館藏音樂書籍全文庫》、《館藏音樂樂譜全文庫》、《音樂核心期刊全文庫》、《館藏音像資料點播庫》等數據并能全文檢索的電子圖書館。幾十年來，學院已建立起一支實力雄厚的教師隊伍，在325名專職教師中，博士生導師35人，碩士生導師131人，教授76人，副教授108人。教授人數占教師總數比例百分之六十。在教學科研中，涌現出一批有突出貢獻的專家、學者。創作了大量有影響的音樂作品，出版教材、著（譯）作數百種。學術性季刊《中央音樂學院學報》營銷國內外。學院師生在國內外各種音樂比賽中屢屢獲獎，據統計自建院以來，在國際各類音樂比賽中獲獎440人次，在國內各類音樂比賽中獲獎1593人次，音樂作品在國際、國內比賽中獲獎295人次。1987年以來學院共取得科研成果獎78項，其中省部級以上獎57項。1989年以來，林耀基教授的《小提琴教學》、郭淑珍教授的《聲部確定及訓練的科學》、于潤洋等教授的《音樂美學教學成果》和吳祖強等教授的《作曲教學成果》分別在教育部每四年舉行一次的教學成果評獎中獲得國家級特等獎和一等獎。

多年來，學院一直遵循“開闊的學術視野，廣泛的對外交流”這一基本的辦學原則，十分重視對外音樂文化交流工作，每年都聘請許多國外著名音樂家和學者來院講學或任教，也有計劃地選派教師和學生出國學習、講學和演出。為了保持長期交流，學院還聘請國際著名音樂家如作曲家潘德烈茲基、指揮家小澤征爾、祖賓?梅塔、鋼琴家阿什肯那齊、小提琴家帕爾曼、大提琴家羅斯托洛波維奇等為學院名譽教授。由學院師生組成的中國青年交響樂團、民族管弦樂團、合唱團、附中少年交響樂團及附小室內樂團多次出訪歐、美、亞、非各國及香港、澳門和臺灣地區，獲得廣泛贊譽。學校還與俄羅斯莫斯科音樂學院、法國巴黎高等音樂舞蹈學院、英國倫敦皇家音樂學院等世界著名音樂學院建立校際交流合作關系。
中央音樂學院是一所培養高級專門音樂人才的學府，1985年學院進行教學體制改革，在全國藝術院校中率先實行學分制教學體制。1993年進行內部管理體制改革，初步實行教職工聘任制度。1996年進行教育體制改革，拓展辦學思路，將學院從單一模式向多元化轉型。1999年進行機構改革和分配制度改革，進一步簡化機關工作程序和提高教職工待遇。2002年進行新一輪的教學改革，進一步調整課程結構和完善學分制教學體系。目前，學院正在努力實施“十五”規劃的各項目標和“211工程”二期建設項目；總面積三萬平方米的新教學綜合樓目前正在緊張施工當中，并將于2006年全面完成校園規劃，為學院進一步向國際化邁進創造條件。