Nastala je zaradi hrambe manuskriptov, ki so jih uporabljali papeži. Nekaj svetih in posvetnih besedil je ohranjenih še iz časov velikih poplav v obdobju rimskega imperija. V inventarju iz leta 1295 piše, da je papež Bonifacij VIII. imel na voljo 442 volumnov, in sicer 419 latinskih in 23 starogrških. Leta 1369 se je papež lahko pohvalil že z 2000 enotami v svoji knjižnici. Pritok vedno novih in novih knjig z iznajdbo tiska zahteva od knjižničarjev v Vatikanu tudi vedno bolj racionalno organizacijo gradiva v knjižnici. V začetku 20. stoletja je papež Pij XI., ki je bil vatikanski knjižničar, preden je postal papež, dodelil nove prostore za hrambo, mirno delo in študij. Knjižnica ima danes tri oddelke. Na prvem so rokopisi (okoli 70.000) in osebni papirji visokih prelatov. Tiskano gradivo je na drugem, precej bolj obsežnem oddelku, kjer je od več kot milijona neposredno dostopnih 80.000 knjig. Tam je mogoče najti tudi 7000 inkunabul in izvode prestižnih tiskov iz visoke renesanse (npr. Aldo Manuce). Na tem oddelku so shranjeni še periodika, grafike in zemljevidi. V tretjem delu knjižnice hranijo antične in srednjeveške medalje (več kot 400.000), zbirko sakralne umetnosti in pisma vernikov, naslovljena na sveti sedež.