Наступление обоих фронтов началось утром 20 августа после сильной артиллерийской, а на 3-м Украинском фронте и авиационной подготовки, подавившей первую позицию главной полосы обороны.

Войска 2-го Украинского фронта в первый же день прорвали тактическую оборону противника на всю глубину и продвинулись на 16 км. Германское командование, пытаясь остановить продвижение, в районе Ясс бросило в контратаки три пехотные и 1-ю танковую дивизии. Но это не изменило положение, поскольку в дело вступили более 1000 советских танков. В полосе 27-й армии генерала С.Г. Трофименко после преодоления второй линии обороны в прорыв была введена 6-я танковая армия под командованием генерала А.Г. Кравченко, имевшая 506 боевых машин. Это был единственный в ходе Отечественной войны случай, когда танковая армия вошла в «чистый» прорыв. К исходу дня ее соединения вышли к третьей оборонительной полосе, проходившей по хребту Маре. В высоком темпе развивалось и наступление 3-го Украинского фронта. 37-я, 46-я и 57-я армии в течение дня прорвали главную полосу обороны и, продвинувшись в глубину на 12 км, местами вклинились во вторую полосу.

Расчет оказался точен: румыны дрогнули, вновь оголив фланги немецких дивизий. Генерал Фриснер пишет: «…причиной этого сравнительно быстрого успеха явилось не численное превосходство, а прежде всего недостаточная стойкость и ненадежность многих румынских соединений… Значительная часть личного состава этих дивизий бросила свои позиции еще во время артиллерийской подготовки… противник неожиданно быстро сумел глубоко вклиниться в расположение 7-й и 5-й румынских пехотных дивизий, которые покинули свои позиции без боя».

В течение 20 августа группа армий «Южная Украина» потеряла сразу 6 дивизий и в один день оказалась на грани катастрофы. Вечером генерал Велер докладывал: «То впечатление, которое производят румынские части, можно определить как катастрофическое».

На второй день наступления ударная группировка 2-го Украинского фронта вела упорную борьбу за третью полосу на хребте Маре, а 7-я гвардейская армия генерала М.С. Шумилова и конно-механизированная группа генерала СИ. Горшкова — за Тыргу-Фрумос. 21 августа к району прорыва германское командование стянуло части 12 дивизий, в том числе двух танковых. Наиболее упорные бои развернулись на подступах к Яссам, где войска противника трижды переходили в контратаки. Но ввод в сражение в полосе 52-й армии 18-го (250 машин) и 23-го (190 машин) танковых и 5-го гвардейского кавалерийского корпусов сорвали планы Фриснера. К исходу дня войска Малиновского окончательно сокрушили оборону противника. Расширив прорыв до 65 км по фронту и до 40 км в глубину и преодолев третью оборонительную полосу, они овладели городами Яссы и Тыргу-Фрумос и вышли на оперативный простор.

Войска 3-го Украинского фронта в этот день также завершили прорыв. Введенные в сражение 7-й (203 машины) и 4-й гвардейский (237 машин) механизированные корпуса продвинулись до 30 км в глубину и фактически отсекли 6-ю немецкую армию от 3-й румынской.

Вечером 21 августа Ставка Верховного Главнокомандования приказала фронтам как можно быстрее выйти в район Хуши, чтобы завершить окружение группировки противника и открыть дорогу к основным экономическим и политическим центрам Румынии.

22 августа германское командование начало отвод группы «Думитреску» с кишиневского выступа за реку Прут. Одновременно группа «Велер» получила приказ отступить на тыловую оборонительную позицию «Траян». Но было уже слишком поздно. С утра 22 августа в наступление вдоль реки перешла 4-я гвардейская армия генерала И.В. Галанина. Действуя совместно с 52-й армией генерала К.А. Коротеева, она к исходу дня продвинулась на 25 км и овладела двумя переправами через Прут. Обходя узлы сопротивления противника, 18-й танковый корпус совершил стремительный 50-километровый бросок к Хуши. На внешнем фронте окружения советские войска захватили Васлуй. Танковая армия Кравченко устремилась к Фокшанским воротам, чтобы с ходу прорвать укрепленный район и тем самым открыть путь в Центральную Румынию, Болгарию, к границам Югославии и Венгрии.

Крупных успехов добился и фронт Толбухина. Соединения 7-го механизированного корпуса генерала Ф.Г. Каткова вышли в район Гуры—Галбены, а 4-й гвардейский механизированный корпус, заняв Тарутино и Комрат, развивал наступление на Леово. Тем самым 3-я румынская армия была окончательно изолирована от 6-й немецкой армии.

К исходу 22 августа ударные группировки фронтов перехватили основные пути отхода противника на запад. Моряки Дунайской флотилии совместно с десантной группой 46-й армии форсировали Днестровский лиман, освободили город Белгород-Днестровский и развивали наступление в юго-западном направлении.

23 августа 18-й танковый корпус вышел в район Хуши, 7-й механизированный — к переправам через Прут в районе Леушены, а 4-й гвардейский механизированный — к Леово. Оперативное окружение кишиневской группировки противника было завершено.

В тот же день 46-я армия генерала И.Т. Шлемина во взаимодействии с Дунайской флотилией закончила окружение 3-й румынской армии, которая на следующий день прекратила сопротивление. Группа «Думитреску» перестала существовать. 6-я армия перешла в непосредственное подчинение командования группы армий «Южная Украина». Армии была поставлена задача скорее перебросить войска через Прут и организовать оборону на его западном берегу. Но эти попытки были тщетными, фронт рухнул, войсками никто не управлял: «…не существовало уже ни штабов, ни тылов, ни специальных небоевых подразделений; все, от генерала до штабного писаря, превратились в обычных бойцов».

В 20 часов 30 минут 23 августа германскому командованию стало известно о крупнейших политических изменениях в Румынии и падении правительства Антонеску. Положение немецких войск коренным образом изменилось. Через три часа было принято решение, санкционированное Гитлером, об отходе кратчайшим путем в Карпаты. Но и эта задача оказалась невыполнима.

24 августа 5-я ударная армия генерала Н.Э. Берзарина освободила Кишинев. 25 августа было завершено создание внутреннего фронта окружения ясско-кишиневской группировки противника. В гигантском «котле» оказались 18 из 25 немецких дивизий. Почти все находившиеся на фронте румынские соединения к этому времени были разгромлены.

Таким образом, на пятый день операции было достигнуто окружение главных сил группы армий «Южная Украина». Войска, действовавшие на внешнем фронте, заняли города Роман, Бакэу, Бырлад и подошли к городу Текуч. Между внутренним и внешним фронтами окружения образовалась полоса глубиной 100–120 км. Тем самым создавались благоприятные условия для ликвидации окруженной группировки и стремительного наступления советских войск в глубь румынской территории. Эти задачи решались уже в новых военно-политических условиях.