Nowy cmentarz dla osób wyznania mojżeszowego w Nowym Mieście Lubawskim założono w 1885 r. na terenie zwanym Folwarkiem. Nekropolia objęła parcelę na planie prostokąta o powierzchni 0,44 ha, przy obecnej ul. Grunwaldzkiej (po sąsiedzku z posesją nr 32). Wkrótce wzniesiono dom przedpogrzebowy, wraz z mieszkaniem dozorcy.
W 1939 r. wartość tego budynku szacowano na 10 000 zł, a teren samej nekropolii — na 5000 zł. Tuż przed wojną przeniesiono tutaj także nagrobki oraz najprawdopodobniej szczątki zmarłych ze starego cmentarza, który został sprzedany miastu.
Cmentarz został zdewastowany przez Niemców podczas II wojny światowej. Podobno jeszcze w 1948 r. na jego terenie znajdowały się nagrobki, które później zostały wykorzystane jako płyty chodnikowe przy budynkach aresztu śledczego i sądu. Jeszcze w 1990 r. na terenie cmentarza wzmiankowano ok. 10 zachowanych nagrobków. Na jednym z nich widniała data: 1840.
W 1995 r. podczas remontu chodnika obok budynku sądu odkryto liczne macewy. Zostały one zabezpieczone, a władze miejskie wraz z Fundacją Rodziny Nissenbaumów zamierzały przenieść je na teren cmentarza. Plany te nie zostały jednak zrealizowane. Do dziś na terenie nekropolii, zaadaptowanej na park, nie zachował się żaden ślad po nagrobkach.