Powstanie jako generał
Jednym z takich buntowników był Guo Zixing, który w 1352 r. poprowadził duże siły do ataku i zajęcia Haozhou. Zhu dołączył do sił rebeliantów i zmienił nazwisko na Zhu Yuanzhang, podnosząc się z szeregów, aby zostać zastępcą dowódcy. Guo Zixing, zwykły przywódca bandytów, stał się zazdrosny o Zhu Yuanzhanga, który wyróżnił się jako dowódca wojskowy. Problemy te zostały później złagodzone, gdy Zhu Yuanzhang poślubił adoptowaną córkę Guo, księżniczkę Ma, która miała wpływ na pogodzenie dwóch mężczyzn.
W 1353 roku Zhu Yuanzhang zdobył Chuzhou (obecnie w prowincji Anhui, na północny zachód od Nanjing). Następnie otrzymał ważne zlecenia, zyskując zwolenników wybitnych ludzi, z których niektórzy później zostali urzędnikami za czasów wczesnej dynastii Ming. W 1355 roku zmarł Guo Zixing, a Zhu Yuanzhang przejął dowodzenie armią rebeliantów.
Zhu Yuangzhang atakował i zajmował miasta i miasta we wschodnich Chinach, a po dotarciu do delty rzeki Jangcy (Chang Jiang) napotkał wykształconych mężczyzn z klasy szlacheckiej. Niektórzy zdecydowali się przyłączyć do jego ruchu, a Zhu był na tyle przezorny, że szukał ich wskazówek. Od nich nauczył się podstaw języka chińskiego, studiował historię Chin i konfucjańskie klasyki. Co ważniejsze, poznał zasady rządzenia i zbudował skuteczną administrację na terenach lokalnych obok struktury wojskowej. Co więcej, jego uczeni przekonali go, by przedstawiał się raczej jako narodowy przywódca przeciwko Mongołom niż jako popularny buntownik. Jego dobór doradców i sprytna umiejętność przyjęcia rozsądnych środków rządowych ostatecznie uczyniły go najpotężniejszym przywódcą przeciwko Mongołom.
Teraz zdeterminowany, aby obalić dynastię Yuan (mongolską) (1206–1368), Zhu maszerował w kierunku Nanjing i zdobył go w 1356 roku. Nankin był strategicznym punktem w pobliżu bogatych ziem delty Jangcy. Ogłaszając się księciem Wu, Zhu ustanowił skuteczną administrację nad obszarem Nanjing z pomocą uczonych i za ich radą powstrzymał się od włóczenia się bez celu z miejsca na miejsce i grabieży. Zachęcał też do rolnictwa, przyznając nieużytkowaną ziemię chłopom bezrolnym, ale mimo swoich sukcesów nadal nie chciał ogłosić się królem (wang). W tym czasie uznał pretendenta dynastii Song, Han Lin’era, za swojego zwierzchnika, mimo że Han był nieskuteczny.
Tymczasem prowincje północne były równie niespokojne jak południe, a kiedy różni buntownicy stawiali opór Mongołowie, zdolny minister mongolski Tuotuo osobiście poprowadził wojska do ich ujarzmienia. Na północy panował więc pozór pokoju, podczas gdy południe nie mogło być kontrolowane przez władze mongolskie.