Cmentarz żydowski w Żorach założono w 1814 r. Wcześniej zmarłych chowano na cmentarzu w Mikołowie. Pierwszy pochówek odbył się w 1814 r. (kobieta imieniem Guettel). W 1837 r. wybudowano dom przedpogrzebowy. Os w pienkutatni pochówek odbył się w 1936 r.
Podczas II wojny światowej Niemcy zdewastowali cmentarz, wywożąc wiele macew. Podczas walk o miasto w styczniu 1945 r. zburzony został dom przedpogrzebowy.
Na powierzchni 0,6 hektara zachowało się ok. 45 nagrobków. Pewna ilość uszkodzonych macew leży złożona na stosie.
Na szczególną uwagę zasługuje nagrobek rabina Nachmana Wolffa Wischnitza, który w styczniu 1823 r. przyjechał do Żor z Gliwic na obrzezanie syna kupca Adolpha Loewy. W wyniku zaczadzenia zmarł i został tutaj pochowany. Na jego nagrobku widnieje inskrypcja, że jest tutaj pochowany wielki i wybitny rabin.
Na terenie cmentarza rośnie wiele drzew. Cmentarz jest otoczony murem.
W 1985 r. z inicjatywy władz miejskich przeprowadzono inwentaryzację cmentarza oraz naprawiono ogrodzenie. W 1994 r. Towarzystwo Miłośników Miasta Żory wzięło pod swoją opiekę teren cmentarza i przeprowadziło inwentaryzację nagrobków. Klucze do bramy znajdują się w Zakładach Techniki Komunalnej. W 1994 r. cmentarz odwiedził Jehuda Nishri, przedstawiciel byłych mieszkańców miasta.