De Muziekafdeling, opgericht in 1965, kan wegens haar patrimonium en haar aankoopbeleid beschouwd worden als het belangrijkste wetenschappelijke centrum van het land voor het bewaren van muziekdocumenten (handgeschreven en gedrukte partituren, briefwisseling van musici, gedrukte werken, concertprogramma's en -affiches, foto's van musici, geluidsarchieven, diverse voorwerpen). Hoewel bijna het volledige muzikale patrimonium van de Koninklijke Bibliotheek van België in deze afdeling is ondergebracht, is het toch belangrijk om te weten dat ook de erfgoedafdelingen ‘Handschriften', ‘Oude en kostbare drukwerken' en ‘Prenten' sommige muziekdocumenten bewaren.

Aanvankelijk opgebouwd rond het fonds Fétis werd de Muziekafdeling sinds haar ontstaan verrijkt met talrijke andere fondsen. Daarnaast koopt ze ook diverse zaken aan, zoals monografieën, het volledige oeuvre van componisten, partituren, muziek- en musicologische tijdschriften, woordenboeken, encyclopedieën, cd's, cd-roms of dvd's. Op die manier wordt een voor België unieke muziek- en musicologische referentiebibliotheek opgebouwd. Ze biedt de lezers onlinetoegang tot de Grove Music (intranet). Ze bewaart eveneens de partituren die door het Wettelijk depot verworven zijn.

Het merendeel van de gedrukte werken over muziek en van de gedrukte partituren zijn gecatalogiseerd volgens de ISBD-normen; de catalogusbeschrijvingen kunnen worden geraadpleegd via de onlinecatalogus. Een deel van de briefwisseling is al geïnventariseerd en is eveneens toegankelijk via de onlinecatalogus. De muziekhandschriften en de voorwerpen zijn momenteel geïnventariseerd op fiches, zoals een deel van sommige geluidsarchieven. Voor bepaalde documenten (zoals fotografische documenten of concertprogramma's en -affiches) is een inventarisatie aan de gang.

Naast de rijkdom van haar patrimonium en de diversiteit van haar referentiebibliotheek, is de Muziekafdeling eveneens de Belgische zetel voor verschillende internationale instellingen zoals de RILM (Répertoire International de Littérature Musicale) en de RISM (Répertoire International des Sources Musicales).

De Muziekafdeling huisvest sinds 2002 eveneens de vzw Béla Bartók Archief van België. Fonds Denijs Dille.

Sinds 2009 werkt de Muziekafdeling samen met de Bibliothèque musicale François-Lang in Royaumont (Frankrijk).

De Muziekafdeling beschikt over een concertzaal, het Auditorium Arthur De Greef (130 plaatsen). Ze organiseert niet alleen concerten in deze zaal maar ook in de rotonde van het Paleis van Karel van Lotharingen.