Parismyndigheterna valde en lättillgänglig plats som vid den tiden låg utanför huvudstaden: de tidigare Tombe-Issoire-stenbrotten under Montrouges slätt. I drift sedan minst 1500-talet och sedan övergav var dessa stenbrott en liten del av labyrinten som sträckte sig över staden över cirka 800 hektar. Förberedelsen av platsen och organiseringen av benöverföringar anförtrotts till Charles Axel Guillaumot, en inspektör vid avdelningen för allmän stenbrottinspektion. Denna avdelnings uppdrag, som grundades den 4 april 1777, av Louis XVI, var att konsolidera de övergivna stenbrotten efter stora kollaps av marken under Paris i mitten av 1700-talet.
De första evakueringarna gjordes från 1785 till 1787 och gällde den största kyrkogården i Paris, Saints-Innocents kyrkogården, som hade stängts 1780 efter användning i flera tio århundraden i följd. Gravarna, vanliga gravarna och charnelhuset tömdes från deras ben, som transporterades på natten för att undvika fientliga reaktioner från den parisiska befolkningen och kyrkan. Benen dumpades i två stenbrunnar och fördelades sedan och staplades in i gallerierna av stenbrottarbetarna. Överföringar fortsatte efter den franska revolutionen fram till 1814, med undertryckande av parochiala kyrkogårdar, såsom Saint-Eustache, Saint-Nicolas-des-Champs och Bernardins kloster, i centrala Paris. De påbörjades igen 1840, under stadsrenovering av Louis-Philippe och den haussmanniska omkonfigurationen av staden från 1859 till 1860. Platsen invigdes som ”Paris Municipal Ossuary” den 7 april 1786 och från och med den tiden, tog det mytiska namnet ”katakomber”, med hänvisning till de romerska katakomberna, som hade fascinerat allmänheten sedan de upptäcktes.
Från och med 1809 öppnades katakomberna för allmänheten efter överenskommelse. Ett register placerades i slutet av kretsen, där besökare kunde skriva sina intryck. Det fylldes mycket snabbt eftersom dessa besök snabbt hade blivit en framgång för både franska och utlänningar. När åren gick blev ossuaryen viloplatsen för många berömda individer. År 1787 besökte greven av Artois, den framtida Charles X, platsen i sällskap med en grupp domstolsdamer; 1814 tog Francis I, den österrikiska kejsaren, en rundtur där; och 1860 sjönk Napoleon III ner i katakomberna med sin son.
Under 1800-talet förändrades besöksarrangemangen ständigt, från total stängning till månads- eller kvartalsöppningar. Paris katakomber är nu öppna för alla utan att behöva tillstånd och välkomnar nästan 550 000 besökare varje år.