Primo conservatore ne fu il padre Carlo Giuseppe Gismondi (1762-1824), mineralista insigne, come dimostra l'onore resogli da von Leonhard nel dedicargli una nuova specie mineralogica, la zeolite denominata gismondite. Gismondi curò l'acquisizione della raccolta del mineralista veronese Camillo Clerici, che costituì la base della raccolta, e stese il primo catalogo sistematico e ragionato della collezione.

Suo successore fu Pietro Carpi (?-1861), che ebbe il grande merito di acquisire la sorprendente collezione privata dell'allora prefetto pontificio monsignor Lavinio de' Medici Spada (1801-1863). Spada fu un egregio ricercatore, sempre in contatto con i maggiori mineralisti del tempo, tanto che von Kobell gli dedicò la spadaite e lui stesso scoprì la parisite (proveniente dai giacimenti di Muzo in Colombia). Ancora oggi i 12.000 campioni di quella collezione costituiscono il nucleo principale del Museo.

Il vero "padre del Museo" fu il mineralista Giovanni Strüver (1842-1915), lo scopritore della sellaite e della gastaldite ed al quale Ferruccio Zambonini, suo insigne allievo, dedicò la struverite. Strüver, durante la sua permanenza nel Museo, riuscì ad acquisire altri 10.000 esemplari, frutto delle campagne di raccolta nel Lazio, nell'isola d'Elba e nelle Alpi Piemontesi, nonché di cambi ed oculati acquisti. Alla sua morte nelle collezioni del Museo erano presenti ben 896 specie delle 900 allora note oltre a quasi tutte le meteoriti italiane.

Nel 1935 Federico Millosevich (1875-1942), trasporto' il Museo nella sua sede attuale: la nuova Università "la Sapienza" , opera dell'architetto razionalista Piacentini.

Da allora tutti i direttori che si sono avvicendati (Ettore Onorato, Carlo Lauro, Annibale Mottana, Giorgio Graziani e Odino Grubessi), unitamente ai conservatori ed al personale tecnico, hanno sempre continuato, oltre al lavoro di ampliamento delle collezioni, soprattutto per quando riguarda la mineralogia regionale ed italiana, l'essenziale lavoro di ricerca sistematica. Tale indirizzo è comprovato dalle numerose pubblicazioni eseguite sui materiali delle collezioni antiche e recenti nonché la scoperta e la descrizione di numerose nuove specie mineralogiche: onoratoite, cesanite, sacrofanite, potassio-fluor-richterite, chiavennaite, medaite, tiragalloite, vigezzite, peprossiite-(Ce), vicanite-(Ce), che sono andate ad arricchire la già importante collezione dei tipi mineralogici.

La collezione, composta attualmente da oltre 30.000 esemplari di minerali (per un totale di 2500 specie), meteoriti e gemme, è senza dubbio una delle più importanti d’Europa.

L' Isola d'Elba con i minerali delle pegmatiti e l'ematite; la Sicilia con zolfo, celestina, aragonite ed hauerite; la Sardegna con fosgenite, covellina e anglesite verde; i minerali vulcanici del Lazio e del Vesuvio; alcuni esempi di minerali alpini; i famosi quarzi "diamante" dei marmi di Carrara ed una ricca collezione di meteoriti in cui spicca quella di Uegit (Somalia) di 252 kg. Completano l’esposizione campioni storici e moderni dei più importanti giacimenti europei e mondiali.

E’ inoltre esposta una collezione di anelli, donazione di Papa Leone XII . Si tratta di una collezione, unica al mondo, di 388 pietre ornamentali e preziose eseguita nei laboratori artigiani di Idar-Oberstein (Germania) nei primi anni del XIX secolo.

La superficie totale del museo è di circa 1300 mq dei quali 1000 per sale espositive e 300 per deposito, aule e laboratori. Per la ricerca scientifica il Museo si avvale della strumentazione e del supporto logistico del Dipartimento di Scienze della Terra.

La superficie espositiva attualmente aperta al pubblico (700 mq) è completamente illuminata e dotata di attrezzature informatiche per il supporto multimediale.

Sono in corso sviluppi di applicazione software: basi di dati per l’archiviazione dei 30.000 campioni presenti, ipertesti, pagine Web (musmin.geo.uniroma1.it), ecc.