Einem alten Dokument von 1766 zufolge soll der Friedhof bereits "vor einhundert Jahren", also um 1666, angelegt worden sein. Dieses entspräche vermutlich ungefähr der ersten Zuwanderung von Juden im Ort. Der älteste erhaltene Grabstein stammt jedoch aus dem Jahr 1761. Seit Spätsommer 1920 findet sich in der Mitte des Friedhofes ein Gedenkstein für die beiden Gefallenen des Ersten Weltkrieges der Synagogengemeinde Oerlinghausen: Albert Kulemeyer (1918) und Ernst Joachim Meyer (1914). Die letzte Beisetzung fand 1937 statt.

Geradezu durch das Einganstor befinden sich heute mehrere Gedenktafeln. Die Inschrift auf der zentralen Gedenktafel lautet: "Aus der Tiefe rufe ich dich Ewiger! (auch in hebräischer Schrift darüber); Unseren ermordeten Brüdern und Schwestern gewidmet". Auf beiden Seiten daneben sind die Namen von jüdischen Gemeindemitgliedern Brandenburgs, meist mit Geburtsdaten, die durch den Holocaust zu Tode kamen, aufgelistet. An der Backsteinmauer sind außerdem die Namen der auf dem ursprünglichen Friedhof begrabenen Menschen und ihre Sterbedaten auf Tafeln angebracht.

Durch Mauer umschlossenes Areal mit großer Anzahl von Grabsteinen; teils durch Steinmetzbetrieb restauriert bzw. Inschriften wieder kenntlich gemacht!

Robert Peller und Sohn Max betrieben des Geschäft gemeinsam, bis es 1937 "arisiert" wurde. Nichtjüdische Händler betrieben das Geschäft bis Ende der 1950er Jahre. Im Jahre 1961 erüffnete die staatliche Handelsorganisation HOG darin ein Café mit Milchbar. Nach 1990 wurde der Laden als Peters Eiscafé weiter betrieben, bis dieser 2018 schloss.