Słowo cmentarz wywodzi się z greckiego „koimao” - zasypiać (łac. coemeterium), czyli miejsce spoczynku zmarłych. Cmentarze podziemne nazywamy katakumbami (gr. „kata kymben” - „obniżenie terenu”, „przy uskoku terenu”). W starożytności nazwa ta odnosiła się do cmentarzy chrześcijańskich znajdujących się przy Via Appia, w Rzymie. Po raz pierwszy termin ten w odniesieniu do wszystkich cmentarzy podziemnych pojawił się w IX wieku w Neapolu, a rozpowszechnił się w XVI i XVII wieku. W rocznicę śmierci męczenników i innych zmarłych chrześcijanie gromadzili się w katakumbach. Odbywały się tam refrigeria (uczty), a także zapalano na grobie lub na specjalnym stole wykutym w tufie (mensa oleorum) lampkę oliwną. Przez ten zwyczaj chrześcijanie pragnęli wyrazić życzenie, by „światłość wiekuista dla zmarłej osoby nigdy nie zagasła”. W czasie tego obrzędu wlewano też do flakonika wmurowanego w grób pachnidła, zamiast kwiatów. Po zakończeniu prześladowań chrześcijan, katakumby stały się miejscem kultu męczenników i celem pielgrzymek. Znajduje się w nich wiele inskrypcji i malowideł, które wyrażają wiarę pierwotnych chrześcijan w zmartwychwstanie. Najczęściej występujące symbole to: Dobry Pasterz z owieczką, Jonasz, wskrzeszenie Łazarza, ryba, kotwica, gołąb, monogramy Chrystusa. W Rzymie jest 60 katakumb. Katakumby św. Kaliksta tworzą największy kompleks (pow. 15 ha, długość korytarza 20 km). Obok katakumb Bazylego znajduje się kościół upamiętniający chrześcijańską legendę Rzymu. Św. Piotr, uciekając przed prześladowaniem, zapytał spotkanego na drodze Chrystusa: „Quo vadis” („Dokąd idziesz”). Chrystus odpowiedział: „Do Rzymu na drugie ukrzyżowanie”. Wówczas św. Piotr zawrócił i poniósł śmierć męczeńską. Kult męczenników sprawił, że chrześcijanie pragnęli chować zmarłych blisko męczenników. Miejsce takie kosztowało około 1,5 złotej monety.
Trudno określić czas powstania wspólnych cmentarzy dla chrześcijan. Początkowo chrześcijanie grzebali ciała zmarłych w określonych miejscach razem z innymi. Od II wieku żądali oddzielnych miejsc grzebalnych, z wykluczeniem innych. Naziemne cmentarze dla chrześcijan na pewno istniały już w III wieku. Zwyczaj oddzielnych cmentarzy dla chrześcijan nie był obowiązkowy, ale usilnie zalecany. Chrześcijanie korzystali z prawa rzymskiego zezwalającego na chowanie także niewolników i skazanych, mimo braku uznania przez władze cywilne. Niektóre rodziny posiadały prywatne cmentarze, niezależne od władzy kościelnej. Zakładając cmentarze, chrześcijanie przestrzegali obowiązującego prawa: był to teren poza miastem z dokładnie określonymi granicami, które od V wieku często przekraczano. Powstawały też cmentarze, zwłaszcza w Afryce, w obrębie miasta. Wraz z rozwojem chrześcijaństwa cmentarze umieszczano nie poza miastem, ale w miastach, blisko kościoła parafialnego. Sobór Rzymski w 1059 r. polecił, aby umarłych grzebać w fizycznym cieniu kościoła.
W średniowieczu cmentarze, specjalnie ogrodzone, były miejscem azylu i spokoju. Odbywały się tam zgromadzenia publiczne, zabawy, dokonywano transakcji, zawierano umowy. Od XIII wieku synody sprzeciwiały się prowadzeniu na cmentarzach działalności świeckiej. Natomiast od XVIII wieku zaczęły ponownie powstawać cmentarze poza miastem. Pojawiło się przekonanie, że chrześcijan należy grzebać w „poświęconej ziemi”. Świadectwa z końca IX wieku mówią o błogosławieniu pojedynczych grobów, a w X wieku dokonywano poświęcenia całego cmentarza. Biskup skrapiał go pobłogosławioną wodą w czterech rogach, a następnie na środku odmawiał specjalną modlitwę. Obecnie przewidziana jest procesja do krzyża cmentarnego z paschałem, czytania biblijne, formuła błogosławienia oraz modlitwy powszechne.
Cmentarz, który został poświęcony, jest miejscem świętym i miejscem kultu. Uzasadnione jest to najpierw faktem poświęcenia, które wydziela i wyłącza dany obszar z innego użytku (np. pole z uprawy). Ponadto należy odwołać się do obrzędów religijnych faktycznie spełnianych na cmentarzu. Z tytułu świętości cmentarza i przeznaczenia go do kultu wynika zasada odpowiedniego zachowania się. Cmentarz nie może być miejscem spacerów, przechadzek, wałęsania się ludzi i zwierząt. Nie może też być miejscem głośnych rozmów, żartów, śmiechu. W aspekcie pozytywnym jest miejscem modlitwy, refleksji i uczczenia zmarłych.