当时蒋介石正在粤军第二军任许崇智的参谋长，顾祝同经同学介绍，前往拜访蒋介石，闲谈中得知蒋介石于1906年毕业于陆军速成学堂时，顾祝同十分高兴，马上说：“速成学堂就是我们保定陆军军官学校的前身，你高我几届，我应叫你学兄。”蒋介石客气地说：“称学兄不敢当，我们是同学。”两人交谈甚欢，彼此都留下了很好的印象。
粤军素有排外风气，蒋介石要想在粤军站住脚，必须团结一批非粤籍的中下层军官作为根基。顾祝同这个谦逊的学弟正是很好的人选之一。而顾祝同对蒋介石十分钦佩，他后来回忆说：“我第一次谒见蒋公，只觉得蒋公比我年龄稍长，是一位青年军官的气概，与一般军官显然不同。”从此顾祝同的命运便同蒋介石连在了一起。
第二天，顾祝同便被任命为军部上尉副官、军事教导队区队长，从此随侍蒋介石左右，为他以后的升迁埋下了伏笔。
1924年6月，黄埔军校成立，蒋介石任校长，特邀顾祝同任军校教授部中校战术教官。该教授部成为了准黄埔系的主要集中点，在该部20位教官和军校总教官，其他各部主任、副主任中，后来担任过国民党内军事要职的就有17人。