"כאן יסופרו תולדותיהן..."

עם פלישת הגרמנים לברית המועצות, ב-22 ביוני 1941, החלו מאות יהודים לברוח מהעיר לפנים ברית-המועצות. במקביל הגיעו לשאוולי מאות פליטים יהודים שברחו מפני הצבא הגרמני המתקדם מזרחה. ארבעה ימים לאחר פלישתם לברית המועצות כבשו הגרמנים את שאוולי. בכניסתם לעיר התלוו אליהם לאומנים ליטאים אנטישמים מזוינים בנשק חם.

מיד עם הכיבוש החלו מעשי רצח של יהודי המקום. לאומנים ליטאים הוציאו יהודים מבתיהם וכלאו אותם בבית הסוהר וב-28 ביוני 1941 בלילה נרצחו יהודים אלה ונקברו ביער קוז'י (Kuziai) במרחק 15 ק"מ מהעיר. ביניהם היו רב הקהילה, אהרון בקשט, ומנהל הגימנסיה העברית, מרדכי רודניק. בשבועיים הראשונים של הכיבוש רצחו הליטאים כאלף יהודים מהעיר. רוב האינטליגנציה הליטאית בעיר, וכן סטודנטים ותלמידי גימנסיות ליטאים, השתתפו בפעילות נגד היהודים וברציחתם. משכילים וכן כומר שניסו להתערב לטובת היהודים אוימו ברצח.

ביולי 1941 אולצו יהודי שאוולי לשאת טלאי צהוב ונאסר עליהם ללכת על המדרכות. יהודים זקנים גורשו לז'גר (Zagare) הסמוכה ונרצחו שם. הליטאים גיבשו תוכנית לגרש את יהודי שאוולי, אך נציגות היהודים, לימים הנציגות רשמית של יהודי גטו שאוולי (יודנרט), השיגה את ביטול הגזרה. כ-400 מומחים יהודים הועסקו במפעלי עור, והם ומשפחותיהם שוכנו בשכונת העוני קווקז (Kaukazas). לאחר ביטול תכנית הגירוש הוחלט לשכן בשכונה זו את יתר יהודי שאוולי, והשכונה הפכה לגטו.

צו קבע שעד 15 באוגוסט 1941 יעברו יהודי העיר לגטו. לשלטונות התברר ששכונת קווקז על 200 הבתים הרעועים שבה צרה מלהכיל את כל יהודי העיר, ולכן הוחלט להקצות לגטו גם את שכונת טרקו (Traku), שכונה של 110 בתים במרחק כחצי קילומטר משכונת קווקז. גם עם תוספת השטח עדיין שררה בשני הגטאות צפיפות קשה. כ-1,000 מהיהודים שעדיין לא נכנסו לגטאות רוכזו בקלויז לאנדקרעמער (Landkremer) וב"מושב זקנים" ולאחר מכן נרצחו ונקברו בבורות בבוביאי (Bubiai).