冯国胜徐达等激战三天，迫使南京守将鲁达花赫福一剑结果了自己。1356年，还刚满二十八岁的朱元璋，统领十余万大军，在众人的拥戴下，带着李善长，浩浩荡荡进了南京城。按照李善长的意思，使人封了元军官府，到处张贴告示，让百姓安居乐业。并严令全军：如有扰民、欺民、夺民女者，格杀勿论。于是，若大个南京城，百姓高兴，庆慰脱了元朝苦海，一些豪绅，也纷纷前来投靠。
朱元璋请李善长做他的参议，所有军事上的战略安排，军队的管理制度，都让他参与谋划，制定方略。在以后的三天里，朱元璋将诸事都交给李善长、冯国胜、徐达等人去做，自己关起门来，认真考虑给各位文臣武将的官衔。他如今已经非常明白：一个能做得了大事的人，其高明之处就在于用人，而用人，关键是把官衔授给适宜的人。经过三天的深思熟虑，朱元璋对他的文臣武将一一进行了封赏。他任命徐达为总督军马行军大元帅，常遇春为前军元帅，李文忠为后军元帅，汤和为左军元帅，邓友德为右军元帅，胡大海为提点总管使，李善长为参议官，冯国胜为亲军指挥使……