הרב לאו היה רבן של קהילות סוצ'אבה (שאץ) בבוקובינה שברומניה ופרשוב בסלובקיה. הוא יזם הקמת ישיבות בצ'רנוביץ ובפרשוב, קידם את רשת החינוך החרדי לבנות "בית יעקב" וכן מקומות תעסוקה לשילוב חרדים, והופיע בפרנקפורט כציר מטעם אגו"י. ב-1935 מונה כראש קהילת פיוטרקוב טריבונלסקי וב-1938 החל לכהן כרב הקהילה.
בפיוטרקוב טריבונלסקי פעל הרב לאו לקידום החינוך הדתי והתעסוקה ליהודי העיר. הוא פעל למען סוחרים יהודים וכן חיילים יהודים בצבא הפולני ואסירים יהודים. במקביל היה פעיל באגודת ישראל למען העלייה לארץ ישראל ולמען החינוך הדתי בה, היה מורה פעיל והמשיך לכתוב מחקרים בהלכה ולערוך שבועון תורני תלת-לשוני (יידיש, עברית ופולנית).
עם הכיבוש הגרמני ציוו הגרמנים על הרב לאו לייצג את היהודים בפיוטרקוב טריבונלסקי ולבצע את הוראותיהם, בין היתר ריכוז כספים שביקשו הגרמנים לשדוד מהיהודים ("כופר נפש"). בתקופה זו ניסה הרב לאו לשחרר חיילים יהודים ששירתו בצבא הפולני ונפלו בשבי הגרמני, לשחרר יהודים שנשלחו מפיוטרקוב למחנות עבודה ולהציל ספרי תורה מבתי כנסת שנפגעו בידי הגרמנים. הוא היה שותף בסיוע לפליטים שהגיעו לפיוטרקוב ובקבורת חללי מגיפת הטיפוס, וניסה לאפשר קיומן של מצוות החגים, כגון השגת מצות לפסח וארבעת המינים לסוכות.
הרב לאו גורש לטרבלינקה ב-21 באוקטובר 1942 עם קהילתו ונרצח שם. גם בנו שמואל היה בשילוח הזה וגם הוא נרצח.
בנו, נפתלי לאו-לביא, תאר את רגעי הפרידה מאביו עם הגירוש לטרבלינקה באוקטובר 1942:
זו פעם ראשונה מזה חודשים שאבי ניגש אלי ונשק לי על מצחי כשישבתי על הספה. דמעה חמה נשרה מעינו ונחתה על לחיי. 'ננהג כמו שנהג יעקב אבינו שערך את משפחתו לקראת העימות הצפוי עם אחיו העוין עשיו. יעקב חילק את המשפחה לשלושה מחנות, בתקווה שאחד המחנות יישאר לפליטה', הסביר לי אבא את תוכנית ההצלה שלו. את אמא ואת אחינו הקטן ישראל, לולק בן החמש, הוא הועיד למחבוא בבית שכן, עד יעבור זעם הגירוש. אותי ואת שמואל החליט אבא להעביר למפעל הזכוכית. על עצמו גזר התייצבות עם בני קהילתו בפני כל מקרה אשר יתרחש. 'רועה אינו מפקיר את עדרו מול להקת זאבים ואני לא אמלט את נפשי ואנטוש את צאן מרעיתי', אמר על החלטתו להישאר בגטו ולהתייצב למסדרי השילוח.
נפתלי לאו-לביא, עם כלביא, ע' 81
אשתו של הרב לאו, חיה, נרצחה במחנה הריכוז ראוונסבריק בגרמניה. שלושה מילדיו של הרב לאו – בנו מנישואין ראשונים יהושע-יוסף, ובניו ישראל-מאיר ונפתלי – שרדו ולאחר השואה הגיעו לארץ ישראל.
