После потери Украины резко выросло значение Кавказа и Кубани как источника зерна. Здесь же находились запасы стратегического сырья, например: Тырныаузское месторождение вольфрамо-молибденовой руды. Потеря Кавказа могла бы оказать заметное влияние на общий ход войны против СССР, поэтому Гитлер выбрал именно это направление в качестве основного. Группа армий, созданная для наступления на Кавказ, получила код «A». В задачу группы «A» входило: окружить и уничтожить южнее и юго-восточнее Ростова-на-Дону войска Южного фронта, отошедшие за реку Дон, и овладеть Северным Кавказом; затем предполагалось обойти Большой Кавказ одной группой с запада, захватив Новороссийск и Туапсе, а другой группой — с востока, овладев нефтеносными районами Грозного и Баку. Одновременно с обходным манёвром намечалось преодоление Водораздельного хребта в его центральной части по перевалам и выход в Грузию. После предполагаемой победы под Сталинградом, подготовка плацдарма для ведения боевых действий против Великобритании на Ближнем Востоке. После падения Ростова-на-Дону сообщение Кавказа с районами Европейской России было возможно только морем через Каспий и Волгу и по железной дороге Сальск — Сталинград. Немецкое командование полагало, что, перерезав эти коммуникации, сможет быстро установить контроль над Кавказом и лишить СССР важнейших ресурсов. Для решения этой задачи предполагалось нанести удар в направлении на Сталинград. Для наступления на Сталинград была создана группа армий «B» под командованием фельдмаршала фон Вейхса. До ноября 1942 Сталинградское направление считалось вспомогательным по отношению к наступлению на Кавказ. Заняв Ростов-на-Дону 23 июля 1942, группа армий «A» начала наступление на Кубань. Самый мощный удар немцы нанесли силами 1-й и 4-й танковых армий по левому флангу Южного фронта, где оборонялись советские 51-я и 37-я армии. Советские армии, понеся большие потери, отступили. В полосе 18-й советской армии немецкие войска прорвались к Батайску, однако в полосе 12-й советской армии дело для них обстояло хуже, и они так и не смогли в первый день форсировать Дон. 26 июля 18-я и 37-я советские армии, усиленные двумя дивизиями, попытались нанести контрудар, чтобы восстановить положение на Дону, однако эта попытка закончилась безрезультатно. В результате уже в первые два дня боёв для советских сил резко ухудшилось положение во всей полосе действий Южного фронта. Создалась реальная угроза прорыва немцев в район Сальска. При его успешном развитии, немецкие войска получали возможность рассечь Южный фронт на две части и открыть путь своей танковой группировке для выхода в тыл основным силам советских войск, которые продолжали удерживать позиции южнее Ростова. Чтобы не допустить этого, советское командование приказало в ночь на 28 июля отвести соединения левого крыла фронта на рубеж, проходивший по южному берегу реки Кагальник и Манычскому каналу. Немецкие войска под прикрытием больших сил авиации переправили на левый берег Дона соединения семи корпусов, где было создано подавляющее превосходство, особенно в танковых силах и артиллерии. Войска Южного фронта не смогли организованно отойти на указанные им рубежи. Постепенный отход превратился в бегство. Немецкие войска, не встречая серьёзного сопротивления, начали стремительно продвигаться вглубь кубанских степей. 28 июля Южный фронт был расформирован, а его войска переданы Северо-Кавказскому. Фронту была поставлена задача любыми средствами остановить наступление противника и восстановить положение по южному берегу Дона. Северо-Кавказский фронт был разделён на две оперативные группы: Донскую (51-я армия, 37-я армия, 12-я армия и 4-я воздушная армия), которая прикрывала ставропольское направление, и Приморскую (18-я армия, 56-я армия, 47-я армия, 1-й стрелковый корпус, 17-й кавалерийский корпус и 5-я воздушная армия при поддержке Азовской военной флотилии), которая оборонялась на краснодарском направлении. 9-я и 24-я армии были отведены в район Нальчика и Грозного. 51-я армия была передана Сталинградскому фронту. Одновременно, немецкое командование передало 4-ю танковую армию в состав группы армий «B». В итоге, в ходе первого этапа наступления (25 июля — 19 августа) немецким войскам частично удалось выполнить поставленные перед ними задачи — нанести крупное поражение советским войскам, захватить большую часть Кубани и Ставрополья; 1-я ТА продвинулась на восток вдоль северной стороны Кавказского хребта до Моздока. Советские войска смогли организовать сопротивление противнику только на подступах к Туапсе. Для усиления войск на Кавказе с 1 по 12 августа советское командование произвело перегруппировку Закавказского фронта. Войска 44-й армии из района Махачкалы, Баку были выдвинуты к оборонительным рубежам на реках Терек, Сулак и Самур. В то же время, на рубеж Терека и Уруха с советско-турецкой границы и с Черноморского побережья были переброшены 5 стрелковых дивизий, 1 танковая бригада, 3 стрелковых бригады, три артиллерийских полка, бронепоезд и несколько других частей. Одновременно с организацией перегруппировки, для усиления войск Закавказского фронта из резерва Ставки выделялись значительные силы. С 6 августа по сентябрь Закавказский фронт получил 2 гвардейских стрелковых корпуса и 11 отдельных стрелковых бригад. 19 августа на новороссийском направлении немецкая 17-я армия перешла в наступление, нанося главный удар по Новороссийску и Анапе и вспомогательные удары по Темрюку и Таманскому полуострову. Советская 47-я армия, уступая в силах, смогла отразить наступление и к 25 августа отбросить противника . 28 августа немецкие войска возобновили наступление на этом направлении и 31 августа захватили Анапу, в результате чего части морской пехоты, оборонявшие Таманский полуостров, оказались отрезанными от основных сил 47-й армии, а корабли Азовской военной флотилии были вынуждены прорываться в Чёрное море. 11 сентября части 17-й армии, захватив большую часть Новороссийска, были остановлены на юго-восточной окраине города. В новом наступлении, предпринятом с 19 по 26 сентября, была практически полностью уничтожена 3-я румынская горнострелковая дивизия. Из-за больших потерь 26 сентября немецкие войска перешли к обороне под Новороссийском, продолжавшейся более года. 23 августа немецкие войска перешли в наступление на Моздок, одновременно 23-я немецкая танковая дивизия нанесла удар на Прохладный и 25 августа захватила его. Дальнейшие попытки наступления вдоль железной дороги Прохладный — Орджоникидзе успеха не принесли. Утром 2 сентября немцы приступили к форсированию Терека в районе Моздока. Захватив небольшой плацдарм на южном берегу реки, немецкие войска в ночь на 4 сентября нанесли сильный удар, и продвинулись на 10 км южнее Моздока. Однако при этом они несли большие потери, особенно в результате действий советской авиации (4-й воздушной армии). 24 сентября немецкие войска, усилив моздокскую группировку 5-й танковой дивизией СС «Викинг», снятой с туапсинского направления, перешли в наступление через Эльхотовские ворота (по долине вдоль Терека) в направлении Орджоникидзе и вдоль железной дороги Прохладный — Грозный по долине реки Сунжа на Грозный. К 29 сентября после 4-х дней упорных боёв немецкие войска захватили Терек, Плановское, Эльхотово, Илларионовку, однако дальше Малгобека продвинуться не смогли и были вынуждены перейти к обороне. Одновременно с боями на грозненском и новороссийском направлениях в середине августа начались ожесточённые бои частей 46-й армии Закавказского фронта на перевалах Главного Кавказского хребта, где против них действовал немецкий 49-й горный армейский корпус и две румынские горнострелковые дивизии. К середине августа части 1-й немецкой горнопехотной дивизии подошли к Клухорскому перевалу и к Эльбрусу, где 21 августа немецкие альпинисты водрузили нацистский флаг. В начале сентября немецкие войска также захватили марухские и санчарские перевалы. В декабре 1942 года, в связи с неудачами под Сталинградом, с кавказского фронта также были сняты и некоторые немецкие соединения, в результате чего немецкая группировка на Кавказе ещё больше ослабла, и к началу 1943 года стала уступать советским войскам в численности — как в личном составе, так и в технике и вооружении. Командование германской группы армий «А» предполагало создать «тыловую оборонительную позицию на зиму». В октябре 1942 года был составлен план размещения войск группы армий «А» и их снабжения на зиму 1942—1943 годов. Немцы стремились создать сплошной фронт севернее Главного Кавказского хребта, связывающий линией обороны соединения 1-й танковой армии с войсками 49-го горнопехотного корпуса и вплоть до района Туапсе с соединениями 17-й армии, через Черкесск. В целом второй этап сражения на Кавказе стал довольно успешным для советских войск. Были полностью освобождены Краснодарский край, Калмыкия, Чечено-Ингушетия, Северная Осетия, Кабардино-Балкария, Ростовская область, Ставропольский край, Черкесская АО, Карачаевская АО и Адыгейская АО. Под контроль советского правительства были возвращены нефтяные промыслы Майкопа, а также важнейшие сельскохозяйственные районы страны.

После возвращения советской власти на Кавказ по обвинению в массовом коллаборационизме были полностью депортированы в Сибирь и Среднюю Азию чеченцы, ингуши, карачаевцы, балкарцы, калмыки. Автономии этих народов были ликвидированы . Победа в битве за Кавказ упрочила южный фланг советско-германского фронта, в ней было достигнуто тесное взаимодействие сухопутных войск с авиацией, флотом и партизанами. Тысячи солдат были награждены медалью «За оборону Кавказа», учреждённой Указом Президиума Верховного Совета СССР 1 мая 1944 года.