Азовская военная флотилия первого формирования создана в составе Черноморского флота в августе 1941 г. для содействия войскам Южного фронта в ведении оборонительных действий на приморских направлениях и обеспечения перевозок на Азовском море. Ее корабельный состав (дивизион канонерских лодок, дивизион сторожевых кораблей-тральщиков, отряд сторожевых катеров и катеров-тральщиков) был сформирован из мобилизованных судов Азово-Черноморского пароходства. Главная база — Мариуполь, с 8 октября Ейск. В сентябре 1941 г. в состав флотилии вошел также отдельный Донской отряд речных кораблей (дивизион речных канонерских лодок и дивизион сторожевых катеров), базировавшийся на Азов и Ростов — на — Дону; в мае 1942 г. — отдельный Кубанский отряд сторожевых катеров. К июлю 1942 г. флотилия имела монитор, 8 канонерских лодок, три сторожевых корабля-тральщика, 7 бронекатеров, 7 торпедных катеров, 35 сторожевых катеров, 9 катеров-тральщиков, 23 полуглиссера, 9 артиллерийских батарей, отдельные артиллерийский и зенитный артиллерийский дивизионы, четыре батальона морской пехоты, два бронепоезда, 44 самолета.

Флотилия поддерживала боевые действия 9, 47, 51 и 56-й армий, участвовала в Керченско-Феодосийской десантной операции 1941-1942 гг., эвакуировала войска Крымского фронта после прорыва противником его обороны на Керченском полуострове в мае 1942 г., содействовала переправе войск 56-й армии через Дон; морская пехота длительное время отражала атаки противника на Таманском полуострове.

В сентябре 1942 г. Азовская военная флотилия была расформирована. Корабли и части флотилии включены в состав Новороссийской и Керченской военно-морских баз, 2-й бригады торпедных катеров и других частей Черноморского флота.

Командующие: капитан 1 ранга Александров А.П. (июль-октябрь 1941 г.); контр-адмирал Горшков С.Г. (октябрь 1941 г. — октябрь 1942 г). Военные комиссары: бригадный комиссар Рощин А.Д. (август-октябрь 1941 г.); полковой комиссар, бригадный комиссар Прокофьев С.С. (октябрь 1941 г.). Начальники штаба: капитан 3 ранга, капитан 2 ранга Фроликов И.А. (июль-октябрь 1941 г.); капитан 2 ранга Свердлов А.В. (октябрь 1941 — октябрь 1942 г.).

Азовская военная флотилия второго формирования создана в феврале 1943 г. Летом в ее состав входили отдельный Кубанский отряд кораблей (дивизион бронекатеров — 6 единиц, дивизион полуглиссеров — 12 единиц), дивизионы сторожевых катеров (8 единиц), бронекатеров (10 единиц), катеров-тральщиков (9 единиц), отряд торпедных катеров (четыре единицы), сектор береговой обороны, два батальона морской пехоты, четыре артиллерийские и минометные батареи, два зенитных артиллерийских дивизиона, штурмовые авиационные полк и эскадрилья, морская разведывательная авиационная эскадрилья. В октябре была сформирована бригада бронекатеров.

Корабли флотилии участвовали в морских боях, действовали на коммуникациях противника, высаживали тактические десанты в Таганрог, Мариуполь, Осипенко, всего 7 тактических и разведывательный. В ходе Керченско-Эльтигенской десантной операции в ноябре 1943 г. корабли флотилии высадили части 56-й армии в районе северо-восточнее Керчи; в январе 1944 г. — три тактических десанта на побережье Крыма. При проведении Крымской операции флотилия содействовала наступлению Отдельной Приморской армии.

В апреле 1944 г. на основе Азовской военной флотилии создана Дунайская военная флотилия.

Командующие: контр-адмирал Горшков С.Г. (февраль 1943 г. — январь 1944 г. и февраль-апрель 1944 г.); контр-адмирал Холостяков Г.Н. (январь-февраль 1944 г., врид).
Военный комиссар капитан 1 ранга Матушкин А.А. (январь-апрель 1944 г.). Начальник штаба капитан 2 ранга, с сентября 1943 г. капитан 1 ранга Свердлов А.В. (февраль 1943 г. — апрель 1944 г.).