Nach dem Einmarsch der Wehrmacht in Polen im September 1939 arbeitete Ringelblum weiter für das JDC. Er unterhielt Programme zur sozialen Selbsthilfe und Suppenküchen für die Juden des Warschauer Ghettos. Er richtete Hauskomitees ein, die versuchten, der wachsenden Not im Ghetto entgegenzuwirken. Gemeinsam mit seinem Freund Menachem Linder gründete Ringelblum außerdem eine Gesellschaft zur Förderung Jiddischer Kultur (Yidishe Kultur-Organizatsye) im Ghetto.
1923 hatten mehrere jüdische Historiker in Polen eine Historische Gesellschaft gegründet. Ringelblum gehörte zu ihren führenden Köpfen und prominenten Gelehrten. Schließlich wurde die Gruppe dem Jüdischen Wissenschaftlichen Institut (Yidisher Visnshaftlekher Institut, YIVO) angegliedert. Ringelblum gehörte zu den Redakteuren der Veröffentlichungen der Gesellschaft. Bis 1939 hatte er selbst 139 wissenschaftliche Artikel veröffentlicht. Seine Bemühungen innerhalb dieser Gruppe waren nur eine Vorschau auf das, was er später im Warschauer Ghetto leisten würde.
Innerhalb der ersten Kriegsmonate begann Ringelblum seine größte Heldentat: das geheime Archiv „Oneg Schabbat”. Der Name bedeutet „Sabbatfreude” und bezieht sich normalerweise auf kulturelle Zusammenkünfte, die am Sabbat stattfinden. Der Name war treffend gewählt, denn die Mitarbeiter trafen sich insgeheim an Samstagnachmittagen. Anfangs sammelten die Archivare Berichte und Zeugenaussagen von Juden, die ins Ghetto gekommen waren, um bei den Selbsthilfeorganisationen Hilfe zu suchen.
Untertags sammelte Ringelblum Informationen, abends schrieb er sie nieder. Er wusste, dass das, was den Juden widerfuhr, etwas noch nie Dagewesenes war, und er war entschlossen, künftigen Historikern eine vollständige Beschreibung des Ortes und der Zeit zu hinterlassen. Er und seine Kollegen sammelten Daten und schrieben Artikel über Städte, Dörfer, das Ghetto und die Widerstandsbewegung. Außerdem dokumentierten sie die Deportation und Vernichtung des polnischen Judentums. Kurz vor der Liquidierung des Ghettos gaben die Archivare jedes bisschen Information über die Morde, das sie besaßen, an den polnischen Untergrund weiter, der es seinerseits aus dem Lande schmuggelte. So trug Ringelblum dazu bei, die Schreckenstaten der Nazis aufzudecken.
Die „Oneg Schabbat”-Materialien wurden in Milchkannen und Blechbehältern aufbewahrt. Eines der unterirdischen Verstecke wurde 1946 entdeckt, ein weiteres 1950. Die Lokalisierung des dritten steht noch aus. Die Archivmaterialien und Ringelblums eigene schriftliche Chronik bilden die umfassendste und wertvollste Informationsquelle bezüglich der Juden im von Deutschland besetzten Polen und der Bedeutung der Ereignisse dieser Zeit.
Im März 1943 entkamen Ringelblum und seine Familie aus dem Ghetto und tauchten im nicht-jüdischen Teil Warschaus unter. Während des Pessach-Festes kehrte er ins Ghetto zurück, das sich mitten in einem Aufstand befand. Er wurde ins Arbeitslager Trawniki deportiert, entkam aber mithilfe eines nichtjüdischen Polen und einer Jüdin. Wieder ging er mit seiner Familie ins Versteck, das jedoch im März 1944 entdeckt wurde. Kurz später wurden Ringelblum, seine Familie und die anderen Juden, die mit ihm im Versteck gewesen waren, in die Ruinen des Ghettos gebracht und ermordet.
