Emergência como general
Um desses rebeldes foi Guo Zixing, que em 1352 liderou uma grande força para atacar e tomar Haozhou. Zhu juntou-se às forças rebeldes e mudou seu nome para Zhu Yuanzhang, subindo na hierarquia para se tornar o segundo em comando. Guo Zixing, um mero líder bandido, ficou com ciúmes de Zhu Yuanzhang, que se distinguia como líder militar. Esses problemas foram atenuados posteriormente quando Zhu Yuanzhang se casou com a filha adotiva de Guo, a princesa Ma, que foi influente na reconciliação dos dois homens.
Em 1353, Zhu Yuanzhang capturou Chuzhou (agora na província de Anhui, a noroeste de Nanjing) Posteriormente, ele recebeu importantes comissões, ganhando uma sequência de homens notáveis, alguns dos quais mais tarde se tornaram oficiais no início da dinastia Ming. Em 1355, Guo Zixing morreu e Zhu Yuanzhang assumiu a liderança do exército rebelde.
Zhu Yuangzhang atacou e capturou vilas e cidades no leste da China e, ao chegar ao delta do rio Yangtze (Chang Jiang), encontrou homens educados da classe nobre. Alguns decidiram se juntar a seu movimento, e Zhu teve a clarividência de buscar sua orientação. Com eles, ele aprendeu os rudimentos da língua chinesa e estudou a história chinesa e os clássicos confucionistas. Mais significativamente, ele aprendeu os princípios de governo e construiu uma administração eficaz nas áreas locais ao lado da estrutura militar. Além disso, ele foi persuadido por seus estudiosos a se apresentar como um líder nacional contra os mongóis, em vez de um rebelde popular. Sua escolha de conselheiros e sua habilidade astuta de adotar medidas governamentais sólidas fizeram dele o líder mais formidável contra os mongóis.
Agora determinado a derrubar a dinastia Yuan (mongol) (1206–1368), Zhu marchou em direção Nanjing e capturou-o em 1356. Nanjing era um ponto estratégico, perto das ricas terras do delta do Yangtze. Proclamando-se duque de Wu, Zhu estabeleceu uma administração eficaz na área de Nanjing com a ajuda dos estudiosos e, a conselho deles, absteve-se de vagar sem destino de um lugar para outro para saquear. Ele também incentivou a agricultura, concedendo terras não utilizadas aos camponeses sem-terra, mas, apesar de seus sucessos, ainda relutava em se proclamar rei (wang). Naquela época, ele reconheceu o pretendente da dinastia Song, Han Lin’er, como seu superior, embora Han fosse ineficaz.
Enquanto isso, as províncias do norte estavam tão inquietas quanto o sul e, quando vários rebeldes desafiaram os mongóis, o capaz ministro mongol Tuotuo liderou pessoalmente as tropas para subjugá-los. O norte, portanto, tinha uma aparência de paz, enquanto o sul não podia ser controlado pelas autoridades mongóis.