Під час німецької окупації Києва у 1941—1943 Бабин Яр став місцем масових розстрілів німецькими окупантами мирного населення і радянських військовополонених; євреїв і циган — за етнічною ознакою, а також партійних та радянських активістів, підпільників, членів Організації українських націоналістів (переважно членів ОУН-м), заручників, «саботажників», порушників комендантської години та інших. Лише за два дні 29 та 30 вересня 1941 там розстріляли майже 34 000 євреїв. Перший розстріл відбувся 27 вересня 1941, коли розстріляно 752 пацієнтів психіатричної лікарні ім. Івана Павлова, яка розміщувалась безпосередньо біля Бабиного Яру. Точне місце розстрілу невідомо.
24 вересня 1941 на Хрещатику радянськими диверсантами були підірвані будинки, у яких розташовувалися представники окупаційної влади. Вибухи та пожежі продовжилися в наступні дні, було знищено близько 940 великих житлових і адміністративних будівель. У звіті представника імперського міністерства окупованих східних областей від 5 жовтня 1941 говорилося, що пожежа поширилася на площі 2 000 м², без даху над головою залишилося близько 50 000 осіб. Нацисти звинувачували в пожежі та вибухах євреїв і використали це як привід для знищення єврейського населення.
Наприкінці вересня 1941 зондеркоманда захопила дев'ять провідних рабинів Києва і наказала їм зробити оголошення: «Після санітарної обробки всі євреї й їхні діти, як елітна нація, будуть переправлені в безпечні місця…»
27—28 вересня на стінах будинків, огорожах і стовпах з'явилися оголошення з текстом українською, російською і німецькою мовами: «Всі євреї міста Києва і його околиць повинні з'явитися в понеділок 29 вересня 1941 року до 8 години ранку на ріг Мельникової і Дегтярівської вулиць (біля кладовища). Взяти з собою документи, гроші, цінні речі, а також теплий одяг, білизну тощо. Хто з євреїв не виконає цього розпорядження і буде знайдений в іншому місці, буде розстріляний. Хто з громадян проникне в залишені квартири і привласнить собі речі, буде розстріляний». Маса людей, які рухалися з різних районів міста, зливалася в один потік на вул. Мельникова. У кінці її, біля протитанкового рову, загородженого «їжаками», була поставлена «застава», за якою розгорнута похідна канцелярія. Почергово від натовпу відділяли 30—40 осіб і під конвоєм вели «реєструватися». У людей відбирали всі документи та цінності. Документи в поспіху кидали в мішки, а то і просто на землю, де вони лежали товстим шаром. Потім євреїв примушували роздягатися і через проходи в насипі виводили до краю яру, на протилежному боці якого на спеціально обладнаній дерев'яній платформі сидів кулеметник. Під безжалісний вогонь кулемета поліцаї заганяли палицями розгублених, голих, абсолютно знетямлених людей, не даючи їм схаменутися, зорієнтуватися. Розпачливе ридання, крики поліцаїв, благання про допомогу, прокляття катам, молитви, що заглушувалися веселими мелодіями вальсів з гучномовців, гуркотом літака, що кружляв над яром…
За кілька днів після розстрілів Бабин Яр відвідав німецький фотограф Йоганнес Хеле. Він зробив світлини того, як солдати СС розбирають речі розстріляних, а військовополонені під їх командою закопують яр.
1943 або 1944 роком датовано фотографію, яка зберігається у Національному музеї історії України у Другій світовій війні. На ній зображено вкрите снігом урвище, з крутими схилами майже без рослинності. Унизу — п'ять постатей — на повний зріст, у зимовому одязі. На зворотньому боці написано (рос): «Бабий яр. Г. Киев. Место расстрела советских граждан, жителей Киева, в 1941—1943 гг».
Масові розстріли у Бабиному Яру та розташованому поруч із ним Сирецькому концтаборі проводилися і пізніше, аж до визволення Києва від окупації. Зокрема, 10 січня 1942 було страчено близько 100 матросів і командирів Дніпровського загону Пінської військової флотилії, а 18 лютого 1943 — трьох футболістів київського «Динамо»: Миколу Трусевича, Івана Кузьменка та Олексія Клименка (за деякими даними частина футболістів були службовцями НКВС, що і стало причиною розстрілу), що дало привід для створення після війни легенди про так званий «матч смерті».
У 1941—1943 у Бабиному Яру розстріляно 621 члена ОУН, серед них і відому українську поетесу Олену Телігу разом із чоловіком.
За даними історика, провідного наукового співробітника Музею історії Києва, відповідального секретаря Громадського комітету для вшанування пам'яті жертв Бабиного Яру Віталія Нахмановича, за весь час німецької окупації у Бабиному Яру були розстріляно 90–100 000 людей.
"Сьогодні 80-та річниця трагедії Бабиного Яру.
День, коли ми схиляємо голови у скорботній пам’яті однієї з найбільших трагедій, яку принесли на українську землю окупаційні війни.
За свідченнями істориків, у 1941-1943 роках у Бабиному Яру нацисти розстріляли 100 тисяч людей. З них приблизно 70 тисяч євреїв. Бабин Яр став братською могилою для українців, росіян, ромів та інших національностей.
Лише за два дні 29-30 вересня було вбито майже 34 тисячі євреїв. Моторошний конвеєр смерті…
Ці цифри важливо пам’ятати. За кожною з них - людські долі, ненароджені життя, біль родин, наш смуток і гіркий історичний урок для всього світу.
Пам’ять про Бабин Яр повинна єднати нас у прагненні ніколи не дозволити повторення подібних трагедій. І ніколи не дозволяти перетворювати питання меморіалу у Бабиному Яру в знаряддя інформаційної війни Росії проти України.
Пом'янімо сьогодні тисячі людей, які востаннє йшли київськими вулицями тим осіннім днем…
Пам’ятаймо…" - написав у Телеграм Арсеній Яценюк.