Narodil se v Berlíně a již v raném věku se začal věnovat studiu judaismu a hebrejštiny, což vedlo k rozkolu s jeho rodiči, kteří vyznávali sekulární a asimilovaný. Scholem zahájil svou akademickou kariéru na univerzitě v Jeně, kde studoval matematiku a filozofii. Brzy však přešel na Mnichovskou univerzitu, kde se intenzivněji věnoval židovským studiím a orientálním jazykům. Od roku 1917 studoval Scholem na Berlínské univerzitě, kde studoval mimo jiné u slavného židovského filozofa Martina Bubera.
V roce 1923 Scholem emigroval do Palestiny, která byla v té době pod britským mandátem, a zapojil se do sionistického hnutí. Ve svém výzkumu pokračoval v Jeruzalémě a v roce 1925 nastoupil na Hebrejskou univerzitu. Zde se věnoval výzkumu kabaly, mystické tradice judaismu, která byla dříve v akademickém světě do značné míry ignorována.
Scholemova práce způsobila převrat v chápání židovské mystiky. Argumentoval tím, že kabala je nedílnou součástí židovských dějin a kultury, a nikoliv okrajovým či heretickým proudem, jak se dříve předpokládalo. Jeho výzkum odhalil složitost a hloubku kabalistických textů a tradic. Vliv Geršoma Scholema na judaistiku a studium kabaly je nesporný. Jeho dílo mělo trvalý vliv na moderní chápání judaismu a jeho mystických tradic a zůstává zásadní součástí židovských studií.
Angažmá v oblasti zachování židovských kulturních pokladů
Gershom Scholem se také zasloužil o záchranu židovských kulturních památek, které byly za druhé světové války uloupeny nacisty. Jako vlivný člen „Výboru na záchranu pokladů diaspory“ (Otzroth haGolah), který byl založen na Hebrejské univerzitě v březnu 1944, úzce spolupracoval s osobnostmi, jako byli Martin Buber, Ben-Zion Dinur, Gotthold Weil a Moshe David Cassuto. Výbor se řídil výzvou historika Cecila Rotha, který již v dubnu 1943 zdůrazňoval význam „pidyon shvuyim“ (vykoupení zajatců) v narážce na převod židovských kulturních statků ukradených nacisty na Hebrejskou univerzitu.
Kromě toho byl Scholem spojen s „Komisí pro obnovu evropské židovské kultury“ (CEJCR), která byla založena v New Yorku v roce 1944 a od dubna 1947 se stala známou jako „Obnova židovské kultury“ (JCR). Pod vedením Salo Barona, jednoho z nejvýznamnějších židovských historiků své doby, a s Hannah Arendt jako výkonnou tajemnicí si organizace vytkla za cíl shromáždit židovské kulturní statky ukradené nacisty v americké okupační zóně a získat je pro židovskou komunitu, aby je mohla rozdělit mezi různá židovská centra po celém světě. Podle plánu rozdělila organizace „Jewish Cultural Reconstruction“ na konci své činnosti více než půl milionu knih židovským institucím a komunitám; čtyřicet procent z nich se dostalo do Izraele prostřednictvím „Pokladů diaspory“. Scholem a další členové výboru působili také v zemích pozdějšího východního bloku, včetně Československa a Polska, a přivezli odtud do Jeruzaléma mnoho tisíc knih.