היהודים הראשונים התיישבו בהולשני בראשית המאה ה-18. במאה ה-19 התמעט מספר הפולנים בעיירה ומספר היהודים והביילורוסים גדל. בתחילת המאה ה-20 התגוררו בעיירה כ-1,000 יהודים - כמחצית מכלל התושבים של הולשני.
יהודי הולשני עסקו במסחר זעיר, ברוכלות ובמלאכה, הם התפרנסו בדוחק כי רב לקוחותיהם היו איכרים תושבי הכפרים. עם התפשטות ההשכלה, בסוף המאה ה-19 ובראשית המאה ה-20, פנו רבים מבני הנוער היהודים בעיירה ללימודים כלליים וללימודי השפה הרוסית והעברית בנוסף ללימודי הקודש בחדרים ובתלמודי תורה. בתקופת מלחמת העולם הראשונה נפגעה פרנסתם של תושבי המקום עקב פעולות הלחימה והעברת השליטה על העיירה לידי הגרמנים. ב-1920 סופח מחוז וילנה, לרבות העיירה הולשני, לפולין.
בין שתי מלחמות העולם, תחת השלטון הפולני, חלה התדרדרות במצבם הכלכלי של תושביה היהודים של הולשני, וממדי ההגירה של צעירים יהודים גדלו. למרות המצוקה התקיימו בעיירה חיי ציבור ערים ופעילות פוליטית ענפה של מפלגות ותנועות נוער חלוציות. בנוסף לתלמודי התורה הוקם בית ספר עברי שהשתייך לרשת "תרבות".
ב-17 בספטמבר 1939, עקב הפלישה הגרמנית לפולין והסכם מולוטוב-ריבנטרופ נכנס הצבא האדום להולשני והונהג בה שלטון סובייטי. באותם ימים הגיעו להולשני פליטים יהודים שנמלטו מאזור הכיבוש הגרמני. ב-22 ביוני 1941, עם פלישת גרמניה לשטחי ברית המועצות, ספגה הולשני הפגזות כבדות, ויהודים רבים התפנו מן העיירה בעקבות נסיגת הכוחות הסובייטיים. עם זאת רבים נתקלו בקשיים במהלך הפינוי ונאלצו לשוב להולשני. העיירה נכבשה ב-25 ביוני 1941. משטרת הולשני, שגויסו אליה פולנים לאומנים ששיתפו פעולה עם הגרמנים, הייתה מן הראשונות באזור שחייבה את היהודים לענוד טלאי צהוב. רוב היהודים, אף ילדים וקשישים, גויסו לעבודת כפיה בגרירת טנקים וניכוש עשבים.
בראש היודנרט שהוקם במקום עמד הרב ראובן חדש שאולץ להעביר לשלטונות המקומיים מדי פעם דמי כופר וסחורות עד כי יהודי המקום התרוששו מרכושם. כעבור זמן קצר הועברו היהודים לגטו בכמה סמטאות באיזור בתי המדרש. מיד אחר כך נצטווה היודנרט לשלוח 200 צעירים ובהם בני נוער וילדים מגיל 12 לעבודה בז'זמר (Žiežmariai) שבליטא. שלטונות הכיבוש המשיכו להטיל על יהודי הולשני כופר – ומצבם הכלכלי של יהודי הגטו החמיר עוד יותר.
ב-20 במרס 1942 צורפו חלקים מגנרל קומיסריאט ביילורוסיה (Weiss Ruthenian) לגנרל קומיסריאט ליטא, ומחשש פן גורלם יהיה כגורל יהודי ליטא שנרצחו, נמלטו, בסיוע היודנרט המקומי, יהודי הולשני לביילורוסיה. בנוסף, שכנע יו"ר היודנרט, ראובן חדש, את השלטונות לשלוח 150 מיהודי הולשני לעבודה בגטו וולוז'ין. שאר יהודי הגטו בהולשני פונו באוקטובר 1942 לגטו אושמיאנה, וגורלם היה כגורל יהודי הגטו ההוא.
