Pařížské úřady zvolily snadno dostupné místo, které se v té době nacházelo mimo hlavní město: bývalé lomy Tombe-Issoire pod plání Montrouge. Tyto lomy, které fungovaly nejméně od 15. století a poté byly opuštěny, byly malou částí labyrintu, který se rozkládal pod městem na přibližně 800 hektarech. Přípravou místa a organizací kostních přesunů byl pověřen Charles Axel Guillaumot, inspektor odboru všeobecné kontroly lomu. Posláním tohoto oddělení, které bylo založeno 4. dubna 1777 Ludvíkem XVI., Bylo konsolidovat opuštěné lomy po velkých zhrouceních půdy pod Paříží v polovině osmnáctého století.
První evakuace byly provedeny v letech 1785 až 1787 a týkaly se největšího pařížského hřbitova, hřbitova svatých-nevinných, který byl uzavřen v roce 1780 po následném používání téměř deset století. Hroby, společné hroby a kostnice byly vyprázdněny od kostí, které byly přepravovány v noci, aby se zabránilo nepřátelským reakcím pařížského obyvatelstva a církve. Kosti byly vyhozeny do dvou lomových studní, které poté dělníci lomu rozdělili a nahromadili do galerií. Přenosy pokračovaly po francouzské revoluci až do roku 1814, kdy byly potlačeny farní hřbitovy, jako jsou Saint-Eustache, Saint-Nicolas-des-Champs a Bernardinův klášter v centru Paříže. Znovu byly zahájeny v roce 1840, během městské rekonstrukce Louis-Philippe a haussmannovskou rekonfigurací města v letech 1859 až 1860. Místo bylo vysvěceno jako „pařížská městská kostnice“ 7. dubna 1786 a od té doby dále přijal mýtický název „Katakomby“ v odkazu na římské katakomby, které fascinovaly veřejnost od jejich objevu.
Počínaje rokem 1809 byly katakomby otevřeny pro veřejnost po předchozí domluvě. Na konci okruhu byl umístěn registr, do kterého mohli návštěvníci psát své dojmy. Bylo naplněno velmi rychle, protože tyto návštěvy se rychle staly úspěchem jak u Francouzů, tak u cizinců. Postupem let se kostnice stala místem odpočinku mnoha proslulých jednotlivců. V roce 1787 jej navštívil hrabě z Artois, budoucí Karel X., ve společnosti skupiny dvorních dam; v roce 1814 tam prošel František I., rakouský císař; a v roce 1860 sestoupil Napoleon III se svým synem do katakomb.
Během devatenáctého století se uspořádání návštěv neustále měnilo, od úplného uzavření po měsíční nebo čtvrtletní otevírání. Pařížské katakomby jsou nyní přístupné všem bez nutnosti povolení a vítají téměř 550 000 návštěvníků ročně.