I 1941 gikk Tyskland til angrep på Sovjetunionen. Etter hvert som den tyske hæren beveget seg østover ble såkalte Einsatzgruppen sendt inn i områdene som ble okkupert. Dette var spesielle drapsenheter som drepte alle som ble betraktet som fiender: jøder, rom, kommunister og antatt kriminelle.
Spesialstyrkene gikk fra by til by og samlet ofrene sine - menn, kvinner og barn. De ble tatt med til øde steder i nærheten, hvor de ofte ble tvunget til å grave ut sine egne massegraver. Deretter ble de stilt opp på linje ved kanten av graven, og skutt.
Den største massakren skjedde i Babi Jar utenfor Kiev i dagens Ukraina. I løpet av 25. og 26. september 1941 ble 33 371 jøder drept her.
Wehrmacht
Det var ikke bare medlemmer av Einsatzgruppene som deltok i massedrap på sivile. Også vanlige vernepliktige soldater skjøt og drepte sivile jøder etter instruks fra sine overordnede. Kun et fåtall av disse soldatene protesterte mot å utføre ordrene. De soldatene som nektet å delta i massenedskytningene fikk som regel ingen formell straff. Likevel gjorde de fleste som de fikk beskjed om. Trolig spilte lojalitet overfor kameratene en rolle for hvorfor så få nektet. I tillegg var soldatene langt hjemmefra, de befant seg i en situasjon hvor de var løsrevet fra sitt vanlige liv. Vi vet at dette er faktorer som kan medvirke til at mennesker i krig gjør ting de aldri ville gjort i fredstid.
Lokale gjerningspersoner
Okkupasjonsmyndighetene samarbeidet med lokalbefolkningen, spesielt anti-kommunistiske grupper, om forfølgelser og massedrap på jøder og kommunister. Kommunisthatet var sterkt i mange områder som tidligere hadde vært okkupert av Sovjetunionen. I byen Kaunas i Litauen ble om lag 3 500 jøder drept av lokale grupper i løpet av noen dager i juni 1941. 27. juni ble 60 jøder slått til døde med jernstenger og klubber. Mens dette foregikk sto deler av lokalbefolkningen og så på, og hisset opp stemningen med støttende tilrop. En av dem satte seg ned og spilte den litauiske nasjonalsangen på munnspill.
De lokale myndighetene var satt ut av spill på grunn av okkupasjonen, og de lokale gjerningsmennene visste at de ikke ville bli straffet for å delta i volden.
For den tyske okkupasjonsmakten var det en stor fordel å få hjelp av lokale gjerningsmenn. Ved at deler av lokalbefolkningen deltok i drapene på sine jødiske naboer, kunne nazistene framstille det som om massakrene ikke var deres ansvar, men oppsto på lokalt initiativ. Noen av de tyske soldatene som var til stede filmet og tok bilder for å dokumentere det som skjedde.
En annen blodig aksjon fant sted i den polske byen Jedwabne. 10. juli 1941 ble alle utenom syv av byens 2500 jøder myrdet av sine ikke-jødiske naboer. Massakren var organisert av ordføreren i byen. Han ga beskjed om at alle jødene skulle samle seg på byens torg. Der ble de slått og ydmyket. Noen døde av slagene. De som overlevde den offentlige mishandlingen på torget, ble låst inne i en låve og brent i hjel.
Før okkupasjonen hadde jøder og ikke-jøder i Jedwabne levd sammen uten større konflikter. Trolig skjedde aksjonen fordi jødene ble anklaget for å støtte Sovjetunionen. Noen av de som deltok i angrepet, gjorde det fordi de hatet jøder, mens andre så muligheten til å utøve vold og stjele de myrdede jødenes eiendom uten å bli straffet for det.