בשנת 1909 הוקמה ישיבה בפוניבז' שבליטא. חלק מתלמידיה נראים בתמונה זו. בתקופת מלחמת העולם הראשונה הוגלו תלמידי הישיבה למעמקי רוסיה ולבסוף הגיעו לאוקראינה. שרידי הגולים שבו לפוניבז' בתום מלחמת העולם הראשונה, אך המשטר הקומוניסטי סגר את הישיבה.
עם זאת, עוד ב-1916, בעיצומה של מלחמת העולם הראשונה, פתח הרב יוסף כהנמן ישיבה נוספת בפוניבז' ובהדרגה הרחיב אותה. ישיבה זו חרבה בשואה, אך מייסדה עלה לארץ ישראל לפני הכיבוש הנאצי והקים את הישיבה מחדש בבני ברק.