Le cimetière, qui date de 1747, a été agrandi en 1905 et en 1923. Les défunts des communautés juives Neunkirchen et Ottweiler furent enterrés au cimetière d’Illingen jusqu’en 1831. En 1938, à l’époque de l’Allemagne nazie, le cimetière fût détruit, les pierres tombales furent enlevées et le terrain fût acheté par la communauté politique. En 1949, après la Seconde Guerre Mondiale, il fût reconstitué en grande partie. Le mémorial, qui date de la même année, porte l’exergue : « Communauté juive d’Illingen : en souvenir honorable à sa maison de Dieu détruite, ses morts et ses victimes de la violence. Érigé par la communauté civile d’Illingen. La communauté juive en Sarre, 1949. »