Rosnąca populacja żydowska w XVII wieku w Krakowie potrzebowała dodatkowego cmentarza. Nowy Cmentarz Żydowski został założony w 1800 r. na gruntach zakupionych od katolickiego zakonu augustianów.
Po hitlerowskiej inwazji na Polskę w 1939 r. cmentarz został zamknięty, a Niemcy sprzedali kamienie nagrobne miejscowym kamieniarzom. Mniej wartościowe płyty posłużyły jako materiał budowlany oraz do brukowania drogi do obozu koncentracyjnego w pobliskim Płaszowie. Bez nagrobków Nowy Cmentarz Żydowski zamienił się w otwarte pole z kośćmi na powierzchni. Po zakończeniu wojny wiele pionowych płyt, czyli macew zostało odzyskanych z obozu w Płaszowie i ponownie ustawionych na cmentarzu.