Strauss se narodil ve Würzburgu v rodině obchodníka a zažil rostoucí represe nacistického režimu v Německu.
Již v mládí projevoval silný zájem o židovskou kulturu a vzdělání. Navštěvoval židovskou základní obecnou školu a Nové gymnázium ve Würzburgu, než byl v roce 1935 z gymnázia vyloučen a vyučil se obchodníkem. V roce 1936 se Strauss přestěhoval do Berlína, kde pracoval pro sionistický „Hechaluz“ a vedl židovské mládežnické hnutí. Zároveň studoval na Vysoké škole vědy o židovství.
Poté, co jeho plány na emigraci do Anglie kvůli vypuknutí války v roce 1939 ztroskotaly, působil Strauss od podzimu 1940 vedle studia jako pomocný rabín v Berlíně. V lednu 1942 byl odveden na nucené práce. Aby se vyhnul deportaci, skrýval se v roce 1942 se svou snoubenkou Lotte Kahle a v roce 1943 uprchl do Švýcarska.
Po válce Strauss pokračoval ve studiu na univerzitě v Bernu a v roce 1946 promoval. V roce 1946 emigroval do USA, kde pokračoval ve své akademické kariéře. Od roku 1948 vyučoval na City College of New York a pracoval na studii o zkušenostech z koncentračních táborů. V roce 1952 mu bylo uděleno americké státní občanství. Později přešel na Juilliard School v New Yorku a v roce 1960 se vrátil na City College coby Assistant Professor. V roce 1971 byl jmenován řádným profesorem historie.
V roce 1982 byl Strauss jmenován zakládajícím ředitelem Centra pro výzkum antisemitismu na Technické univerzitě v Berlíně. Zde budoval centrum až do svého odchodu do důchodu v roce 1990 a významně přispěl k výzkumu antisemitismu. Straussova vědecká práce se týkala témat, jako je emancipace, dějiny vědy a emigrace, jakož i politiky pronásledování. V roce 1997 vydal Strauss své paměti: „Nad propastí: židovské mládí v Německu 1918–1943“, která sehrála důležitou roli při přípravě „Knihovny ztracených knih“. Titul je k dispozici také v angličtině. Herbert A. Strauss zemřel 11. března 2005 v New Yorku.
„I kdyby to nebyla ta nejvyhrocenější situace, které jsem kdy čelil, zůstali by mi tito muži a ženy vryti do paměti, když navzdory hrozbám, nečekaným otřesům a rozkladu vytvářeli svými přednáškami a semináři oázu stability.“