A régi és ritka könyvek négy nagy egységbe, ezeken belül további alegységekbe vannak besorolva:
1. Az 1500 előtti időszakból származó könyvek, tehát az ősnyomtatványok (incunabula), illetve az 1711 előtti régi magyar könyvek (RMK) már akkor külön szakcsoportot alkottak, amikor a Könyvtár az Akadémia mai palotájába költözött (1865).
Az itt őrzött ősnyomtatványok latin nyelvű magyarázatokkal ellátott, 466 tételt tartalmazó nyomtatott katalógusát Hellebrant Árpád adta ki 1886-ban. 1928-ban Vigyázó Ferenc könyvtárával több mint 400 újabb ősnyomtatvány került ajándékként a Könyvtár birtokába.
Ma közel 1200 ősnyomtatványával ez az ország második legnagyobb incunabula-gyűjteménye, 5 olyan darabbal, amely ezeknek egyetlen ismert példánya (ld. Csapodi Csaba, A Magyar Tudományos Akadémia Könyvtárának ősnyomtatvány-gyűjteménye, A Magyar Tudományos Akadémia Könyvtárának Közleményei 53. Budapest: Akadémiai Kiadó, 1967, 21–22. old.).
Az ősnyomtatványok jelzete 'Inc.' és numerus currens.
2. A régi magyar könyvek gyűjteménye négy alegységre oszlik. Jelzetük RM I, II, III vagy IV, annak megfelelően, hogy magyar nyelvű (I), magyarországi nyomdából való (II), vagy magyar szerző (Hungarus, Pannonius, Transylvanus) művéről (III), illetve magyar vonatkozású műről van-e szó (IV). A jelzetben az RM rövidítés után az említett római számok valamelyike, majd a méretet jelölő rét (8°, 4°, 2°), végül numerus currens áll. Ezek a jelzetek nem azonosak a Szabó Károly-féle RMK-számokkal. 1906-ban került az osztályra Ráth György 1711 előtti nyomtatványokból álló Hungarica-gyűjteménye, melyet végakaratának megfelelően különálló egységként kezelünk. Mind régi magyar könyvei, mind ősnyomtatványai jelzetükben viselik 'Ráth' nevét, amit numerus currens követ. Ráth könyveivel együtt mintegy 6500 RMK-t őrzünk.
3. Az 1500–1550 között megjelent, nem magyar vonatkozású könyvek tartoznak az antikva-gyűjteménybe. Jelzetük 'Ant.' és numerus currens.
4. 1954-től egyéb régi könyvek is átkerültek az osztályra a nagyraktári állományból. Részben itt vannak az 1800 előtt nyomtatott külföldi és az 1850 előtti magyar könyvek; ezek 520.000-rel, 550.000 és 560.000-rel kezdődő jelzetet kaptak. Az egyéb muzeális értékű könyvek (pl. a dedikált, a marginálisokban vagy metszetekben gazdag, vagy értékes korabeli kötésben lévő példányok) jelzete 540.000-rel kezdődik.
A régi és ritka könyvekről szerzői betűrendes és időrendi cédulakatalógus áll a kutatók rendelkezésére; az ősnyomtatványokhoz tárgyszókatalógus is készült.
Az ősnyomtatványok modern katalógusa, az egyes példányok részletes leírásával (korábbi tulajdonosok, bejegyzések, belső díszítés, kötés, hiányok stb.) – Rozsondai Marianne és Rozsondai Béla munkája – az ALEPH Ősnyomtatványok (INC) albázisában érhető el. 2013-ban megjelent a katalógus angol nyelvű változata (Catalogue of the Incunables in the Library and Information Centre of the Hungarian Academy of Sciences. Budapest: Argumentum, 2013). A 16. századi könyvek elektronikus feldolgozása folyamatban van.
