Arhiivmaterjalide kogu võib tinglikult jagada kaheks suuremaks rühmaks:
1. Arhiivraamatukogu, kuhu kuuluvad raamatud Liivimaa, Eestimaa ning Tartu linna ajaloo kohta ja Tartus ilmunud trükised alates 18. sajandist kuni 1930. aastate lõpuni. Vanim raamat kogus on Lieffländische Landesordnungen, Riga, 1707.
2. Arhiivmaterjal, mille moodustavad dokumendid (Foto: Kiri, Ants Piibule (TM 3038:194 Ar)), kutsed, kavad, müürilehed, aukirjad ja auaadressid, diplomid, ameti- ja koolitunnistused, linna plaanid (Foto: Tamme pst 79 krundi haljastusplaan, autor Airi Loid (TM 3370:2 Ar)), lepingud, mitmesugused väiketrükised (Foto: Postkaart 1865. aastast (TM 1229:9 Ar)), käsikirjalised uurimused ja muu materjal, mis kajastab Tartu ajalugu ja kaasaega nii linna, erinevate asutuste ja ühingute kui ka üksikisikute tasandil.
Käsikirjade hulgas on väärtuslikke Tartu ajaloo alaseid uurimistöid (nt H.Gustavson „Tartu Leivakombinaat 1912–1954” ja „Tartu Õlletehas 1826–1945”, A. Väljaots „Tartu side ajaloost 1918–1970”, A. Matteus „Tartu linna ehitustegevus 1956–1960”, G. Matto „Eesti vabatahtliku tuletõrje märkidest, „Medalite kutsel” ja „Balti ametimärkidest”, E. Veenpere „Tartu Vabatahtliku Tuletõrjeühingu kroonika 1864–1918” ja mitmed teised). 1970. aastate lõpus ja 1980. aastate keskpaiku laekusid mahukad isikuarhiivid (E.-L. Mikkelsaar, M. Miidla, V. Haldre). 1989.a. täienes fond huvitava kollektsiooniga, mis sisaldab 1888.a. Tartus asutatud Eduard Veeberi templitööstuse materjale.
2017. aasta seisuga on muuseumi arhiivkogus kokku 30 557 museaali. Muuseumide infosüsteemis Muis on neist leitavad 20 771.