Herman Jelo ble født den 1. mars 1908 i Kristiania som ett av fem barn til Isak Leib Jelaawitz (f. 1882 i Litauen) og Esther (f. Scheer, 1886 i Litauen). Faren Isak drev firmaet Partiinnkjøpet i Lakkegata 12 på Grønland. Den 26. mars 1921 feiret Herman sin Bar Mitzva. Kort tid etter begynte han som frisør og barber lærling hos Ernst Heggeland i Helgensensgate 18. Etter endt lærlingetid etablerte han sin egen frisør og barber salong, først i Lakkegata 15, dernest i Kirkeveien 48 på Majorstua. I 1939 endret Herman etternavn fra Jelaawitz til Jelo.

Herman var ugift og bodde hjemme hos sine foreldre i Langes gate 11 i Oslo da han ble arrestert av det norske statspolitiet den 26. oktober 1942. Etter to dager på Bredtveit fengsel ble han overført til Berg fangeleir utenfor Tønsberg. Den 26. november samme år ble Herman deportert med skipet Donau til Stettin og derfra til utryddelsesleiren Auschwitz. Her gikk han til grunne i februar 1943. Samtlige av Hermans nærmeste familiemedlemmer ble utryddet i Auschwitz: Foreldrene Isak og Esther; broren David; søstrene Dora, Fanny og Sara (gift Glikman) og mormoren Olga Scheer.