袁祖铭离开上海后，无处伸展抱负，成为流浪军人。由于偶然的机会，他经原在四川相识的友人张英华介绍，拜见了北京政府财政总长潘复，声称可以运动黔军归附政府，实际是想依靠北洋势力重回贵州。潘复将其意转报北京政府总理靳云鹏，因此前北京政府试图说服卢焘“北附”未成，今袁既主动投怀送抱，靳云鹏即表示可以助袁回黔，以将贵州纳入北洋势力范围，“牵制湖南、四川，不使倒向孙中山方面”。北京政府决定拨款20万元作为袁祖铭运动黔军的费用，再由两湖巡阅使王占元拨一旅军队归袁指挥，于1921年4月由袁祖铭在武昌组建定黔军，自任总指挥，但假道湖南入黔之议被拒。援鄂战争结束后，吴佩孚被任命为两湖巡阅使，靳云鹏电令吴佩孚“就近与袁祖铭接洽，设法扶助，俾定黔局”。1921年12月，袁祖铭与吴佩孚在汉口相见，吴表示将拨枪械助其回黔，经费“概由中央担任”。此后，袁祖铭利用他在黔军中的老关系，对黔军进行分化瓦解，拉拢了不少黔军将领拥其回黔主政，赶跑了孙中山任命的黔军总司令谷正伦。1922年1月，袁祖铭自湘西洪江回师贵州，4月9日进入贵阳，卢焘被迫卸去总司令与省长职，袁祖铭“定黔”告成，8月被任命为贵州省长。1923年2月，四川大规模内战爆发后，袁祖铭被吴佩孚任命为黔边援川总司令，率部由贵州毕节入四川叙府。2月中旬，唐继尧令滇军入黔，袁祖铭因远在四川，难于回顾，只能决定放弃贵阳，自任黔军总司令，率部入驻四川，后以川黔边防督办名义，据有川东南大块地盘。贵州则由刘显世于4月19日复任省长，因其受滇军挟制，不安于位，9月辞职由唐继虞继任，贵州再度沦为云南唐继尧的附庸。