Fremkomst som general
En sådan oprør var Guo Zixing, som i 1352 førte en stor styrke til at angribe og tage Haozhou. Zhu sluttede sig til oprørsstyrkerne og skiftede navn til Zhu Yuanzhang, rejste sig fra rækken og blev næstkommanderende. Guo Zixing, en simpel banditleder, blev misundelig på Zhu Yuanzhang, der udmærker sig som en militærleder. Disse problemer blev senere afhjulpet, da Zhu Yuanzhang giftede sig med Guos adopterede datter, prinsessen Ma, som var indflydelsesrig i at forene de to mænd.
I 1353 erobrede Zhu Yuanzhang Chuzhou (nu i Anhui-provinsen, nordvest for Nanjing). Efterfølgende modtog han vigtige kommissioner og fik en følge af fremragende mænd, hvoraf nogle senere blev embedsmænd under det tidlige Ming-dynasti. I 1355 døde Guo Zixing, og Zhu Yuanzhang overtog ledelsen for oprørshæren.
Zhu Yuangzhang angreb og erobrede byer i det østlige Kina og stødte på uddannede mænd fra gentryklassen, da de nåede deltaet i Yangtze-floden (Chang Jiang). Nogle besluttede at slutte sig til hans bevægelse, og Zhu havde fremsynet til at søge deres vejledning. Fra dem lærte han det kinesiske sprogs grundlæggelser og studerede kinesisk historie og de konfucianske klassikere. Mere markant lærte han regeringens principper og opbyggede en effektiv administration i lokale områder ved siden af den militære struktur. Desuden blev han overbevist af sine lærde om at præsentere sig som en national leder mod mongolerne snarere end som et populært oprør. Hans valg af rådgivere og hans kloge evne til at vedtage sunde regeringsforanstaltninger gjorde ham i sidste ende til den mest formidable leder mod mongolerne.
Nu bestemt til at vælte Yuan (Mongol) -dynastiet (1206–1368) marcherede Zhu mod Nanjing og erobrede det i 1356. Nanjing var et strategisk punkt tæt på de rige lande i Yangtze-deltaet. Udråbende sig selv hertug af Wu, etablerede Zhu en effektiv administration over Nanjing-området med hjælp fra lærde og på deres råd afholdt sig fra at strejfe formålsløst fra sted til sted for at plyndre. Han opmuntrede også landbruget ved at give ubrugt jord til de jordløse bønder, men på trods af hans succeser var han stadig tilbageholdende med at udnævne sig til konge (wang). På det tidspunkt anerkendte han sangdynastiets foregiver, Han Lin’er, som sin overordnede, selvom Han var ineffektiv.
I mellemtiden var de nordlige provinser lige så rastløse som syd, og da forskellige oprørere trodsede Mongolerne førte den dygtige mongolske minister Tuotuo personligt tropper til at underkaste dem. Nord havde således en skinnende fred, mens syd ikke kunne kontrolleres af de mongolske myndigheder.