Der 1747 angelegte Friedhof wurde in den Jahren 1905 und 1923 vergrößert. Die Toten der jüdischen Gemeinden Neunkirchen und Ottweiler wurden hier bis 1831 ebenfalls beigesetzt. Der Friedhof wurde 1938 in der Zeit des Nationalsozialismus zerstört, die Steine 1939 abgeräumt und das Gelände von der politischen Gemeinde gekauft. 1949 wurde der Friedhof weitgehend wieder hergerichtet. Das im gleichen Jahr errichtete Mahnmal trägt die Inschrift: Die Synagogengemeinde Illingen, ihrem zerstörten Gotteshaus, ihren Toten und Opfern der Gewalt zur ehrenden Erinnerung! Errichtet von Zivilgemeinde Illingen - Synagogengemeinde Saar 1949.