Mit Blick auf das Entstehungsdatum der Grabstätte herrscht bereits Uneinigkeit. So lässt sich auf der „Karte der Stadt und Herrlichkeit Crefeld nach einer Geometer Engelbronner im Jahre 1723 angefertigten Karte mit Zusätzen vom Jahre 1736 herrührend“ bereits ein „Juden Kirchhof“ erkennen.

Jedoch wurde das Original zerstört und eine Druckwiedergabe, die darauf basiert, erst 1865 angefertigt. Verlässlicher erscheint hingegen die Tirion-Karte zu sein. Dort ist die Grabstätte im Jahr 1758 bereits als „Op den Begraetplaats“ an der heutigen Stelle eingezeichnet. Dies passt auch zu der Aussage, wonach der Judenvorsteher Hertz Levi am 08. Februar 744 den Friedhof, auf dem sich bereits jüdische Gräber befanden, von der Stadt erworben hat. Einer der ältesten Grabsteine, datiert auf das Jahr 1774, belegt, dass Levi selbst auch dort begraben wurde. Dennoch muss festgehalten werden, dass die Quellenlage durch den Verlust des Gemeindearchivs während der Pogrome 1938 schlecht ist.

Im Verlauf der Jahre ist die Grabstätte immer weiter vergrößert worden, bis sie schließlich 1916 ihre endgültige Größe mit mehr als 4000 Quadratmetern erreichte. Die circa 367 erkennbaren Grabsteine zeugen davon, dass bis 1920 herum viele Krefelder Juden auf dem Friedhof an der Heideckstraße die letzte Ruhe fanden.

Mit dem Aufkommen des Nationalsozialismus kam es dann zu einer deutlichen Abnahme an Bestattungen. So ergab eine Analyse der Inschriften, dass während der NS-Zeit nur die am 4. Dezember 1938 verstorbene Lisette Königsberger dort begraben wurde. Die Oppressionen gegen die jüdische Bevölkerung lassen sich auch daran festmachen, dass der Friedhof im Jahr 1943 nach der Deportation vieler Juden beseitigt werden sollte. Dazu kam es jedoch nicht. Die einmarschierten US-Amerikaner verhinderten dies und veranlassten eine umgehende Instandsetzung. Dies gestaltete sich schwieriger als gedacht, da viele Gräber durch Bomben beschädigt und umgestürzt waren.

In den folgenden Jahrzehnten wechselte die Verantwortung für die jüdische Grabstätte zwischen der politischen Gemeinde und der Friedhofsverwaltung, die auch noch heute die Zugangsschlüssel zum Gelände hat. Zwischenzeitlich wurde von der Regierung beschlossen, dass alle jüdischen Friedhöfe, auf denen keine Beerdigungen mehr stattfinden, geschlossen werden. In der Folge wurden einige der 547 Grabsteine und Fragmente mit Ranken und Ästen überdeckt.

Jedoch lässt sich noch erkennen, dass die Gräber weitestgehend gen Osten in Richtung Jerusalem ausgerichtet sind. Die Steintafeln, die auf die Verstorbenen hinweisen, haben dabei gänzlich unterschiedliche Formen. So lässt sich bei manch einem Grabstein ein Dreiecksgiebel erkennen oder auch ein geschweifter Bogenabschluss. Beliebt war ebenfalls ein schwarzer Obelisk. Auf dem Stein selbst lassen sich selten Symbole und Ornamente finden. Am ehesten können die „segnenden Priesterhände“ wahrgenommen werden. Umso auffälliger und unterschiedlicher hingegen sind die Grabinschriften. Auf dem Stein des berühmten Krefe

lder Rabbiner Jehuda Löb Carlburg befindet sich, abgesehen von der Nennung der Ehrentitel und des Namens des Vaters, auch der Segensspruch „Ladung in die himmlische Akademie“. Anders verhält es sich mit der Grabinschrift von Baruch Löb. Dort findet der Vater keine Erwähnung, und auch die Ehrentitel werden nicht gehäuft.

Auffällig ist, dass zwischen der Bestattung der beiden Männer nur acht Jahre liegen, sodass auch zeitlich keine Regelmäßigkeiten bei der Grabinschrift zu erkennen ist. Ebenso verlassen wie der alte jüdische Friedhof ist auch die darauf befindliche Friedhofshalle, die heute leer steht.