Herschel Hermann Rabinowitz ble født den 30. oktober 1891 i Raigrod, Polen, som yngste sønn av Chaia Rosa og Isak Levy Rabinowitz. Herschel kom til Norge i 1914 etter anmodning av sin eldre bror, Moritz Rabinowitz (f. 1887), som hadde slått seg ned i Stavanger fem år tidligere. Herschel dro etter hvert videre til Bergen, hvor han etablerte seg som kjøpmann.

I 1924 giftet han seg med Rosa Goldberg (f. 1894 i Landsberg). Hun var yngre søster av Moritz kone Johanna (1892-1939). Rosa døde allerede i 1934, og er gravlagt på den jødiske gravlunden på Helsfyr i Oslo. Herschel og Rosa hadde ingen barn.

Herschel Rabinowitz ble arrestert den 26. oktober 1942 og fraktet til Berg fangeleir utenfor Tønsberg. En måned senere ble han deportert med transportskipet Donau til Stettin og derfra til utryddelsesleiren Auschwitz. Herschel ble drept den 22. desember 1942.