Herberth ble født i Fredrikstad som sønn av norsk-jødiske Cecilie Fischer (1886-1957) og den legendariske revyforfatteren Arne Svendsen (1884-1958). Hans foreldre var ikke gift, men moren giftet seg senere med Abel Bernstein (1885-1942), som adopterte gutten. Herberth gikk uansett i sin fars fotspor, hva gjelder talent og yrke. 18 år gammel ble Herberth selv revyforfatter på heltid. Samtidig ble han oppdaget av Ernst Rolf, som engasjerte ham i revyen ”Fra Carl Johan til Lykkeland” på Casino i Oslo i 1923. Bare 21 år gammel ble Herberth teatersjef på Teater Hjorten i Trondheim.

På 1920- og 30-tallet og i det første tiåret etter krigen var Herberth en av de største og mest folkekjære revvyartistene i Norge. Han opptrådte fast på de største revyteatrene i landet. Tidvis var han også teaterdirektør og regissør. Under navnet ”Circus Herberth Revyen” reiste han etter krigen på turnéer i hele Norge. Herberth ble kjent og elsket for de skikkelser og det revyspråk han skapte, men ikke minst for sin kreative visekunst. Herberth skrev nærmere 800 viser, hvorav flere ble rene landeplager.