Władze Paryża wybrały łatwo dostępne miejsce, które w tamtym czasie znajdowało się poza stolicą: dawne kamieniołomy Tombe-Issoire pod równiną Montrouge. Działające co najmniej od XV wieku, a następnie opuszczone, kamieniołomy te stanowiły niewielką część labiryntu rozciągającego się pod miastem na około 800 hektarów. Przygotowanie terenu i organizację transferów kości powierzono inspektorowi Departamentu Ogólnej Inspekcji Kamieniołomów Charles Axel Guillaumot. Misją tego wydziału, założonego 4 kwietnia 1777 roku przez Ludwika XVI, była konsolidacja opuszczonych kamieniołomów po poważnych zawaleniach gruntu pod Paryżem w połowie XVIII wieku.
Pierwsza ewakuacja miała miejsce w latach 1785-1787 i dotyczyła największego cmentarza w Paryżu, cmentarza Świętych-Niewinnych, który został zamknięty w 1780 roku po kolejnym użytkowaniu przez prawie dziesięć wieków. Groby, groby wspólne i kostnica zostały opróżnione z kości, które transportowano nocą, aby uniknąć wrogich reakcji ze strony paryskiej ludności i Kościoła. Kości zostały wrzucone do dwóch studni kamieniołomu, a następnie rozprowadzone i ułożone w chodnikach przez pracowników kamieniołomu. Po rewolucji francuskiej przeniesienia trwały do 1814 r., Kiedy to zlikwidowano cmentarze parafialne, takie jak Saint-Eustache, Saint-Nicolas-des-Champs i klasztor Bernardynów w centrum Paryża. Rozpoczęto je ponownie w 1840 r., Podczas renowacji urbanistycznej dokonanej przez Ludwika Filipa i rekonfiguracji miasta przez Haussmanna w latach 1859–1860. Miejsce to zostało konsekrowane jako „Paryska Ossuarium Miejskie” 7 kwietnia 1786 r. I od tego czasu przybrał mityczną nazwę „Katakumby” w odniesieniu do rzymskich katakumb, które fascynowały publiczność od czasu ich odkrycia.
Począwszy od 1809 roku katakumby zostały otwarte dla publiczności po wcześniejszym umówieniu się. Na końcu trasy umieszczono rejestr, w którym odwiedzający mogli zapisywać swoje wrażenia. Zapełniło się ono bardzo szybko, ponieważ wizyty te szybko odniosły sukces zarówno wśród Francuzów, jak i obcokrajowców. Z biegiem lat ossuarium stało się miejscem spoczynku wielu wybitnych postaci. W 1787 r. Hrabia Artois, przyszły Karol X, odwiedził to miejsce w towarzystwie grupy dworskich dam; w 1814 r. odbył tam tournee cesarz austriacki Franciszek I; aw 1860 roku Napoleon III zstąpił do katakumb ze swoim synem.
W XIX wieku organizacja zwiedzania ulegała ciągłym zmianom, od całkowitego zamknięcia do otwarcia miesięcznego lub kwartalnego. Paryskie katakumby są teraz otwarte dla wszystkich bez konieczności uzyskania zezwolenia i przyjmują prawie 550 000 odwiedzających rocznie.