Der sogenannte "Alte Friedhof" an der Birkenfelderstraße besteht seit 1564 und lag früher außerhalb der Befestigungsanlagen. Innerhalb der Stadt gabe es ursprünglich einen Vorgänger: Rund um die St.-Martins-Kirche existierte ein Kirchhof. Von diesem sind allerdings nur noch einige steinerne Zeugen an der Außenwand der Pfarrkirche erhalten. Die Gebeine aus ehemaligen Ruhestätten wurden in einem Gemeinschaftsgrab des Alten Friedhofs beigesetzt.
Der Alte Friedhof besteht - aus seiner historischen Entwicklung heraus - überwiegend aus Belegungsflächen und einem symmetrischen Wegesystem ohne nennenswerte Grünflächen oder Baumbestand. Entlang der westlichen Friedhofsmauer befindet sich eine Reihe von alten Familiengruften, unmittelbar hinter dem Haupteingang sind die Kriegsgräber zu finden - 101 Kriegstote aus den beiden Weltkriegen fanden hier ihre letzte Ruhestätte.
An einem zentralen Punkt überragt die Dechant-Reuder-Kapelle, erbaut gegen Ende des 18. Jahrhunderts, die gesamte Anlage. Unweit davon steht das ehemalige Leichenhaus aus dem Jahr 1868, welches früher bewohnt war, heute jedoch als Betriebsgebäude genutzt wird.
Eingefriedet ist der gesamte Friedhof mit einer gut erhaltenen Mauer aus Sandstein von einem bis eineinhalb Meter Höhe, er besitzt fünf Zugänge. Da die alte Anlage den Bedfürnissen der Stadt nicht mehr gerecht wurde - zwei Erweiterungen 1874 und 1893 hatte sie bereits hinter sich - musste sie im Jahr 1945 abermals um 6.750 Quadratmeter in Richtung Norden erweitert werden. Ein Leichenhausneubau mit einer geräumigen Wohnung für den Friedhofsverwalter war bereits im Jahr 1906 entstanden. Doch auch diese Maßnahmen hielten schließlich nicht Schritt mit der rapid steigenden Einwohnerzahl in der Nachkriegszeit.