１９８３年至１９８４年，中共中央、中央军委酝酿建立中国人民武装警察部队，叶剑英对此事十分关心，强调要抓好武警部队的建设，特别要搞好领导班子的建设。
１９８３年６月，第六届全国人民代表大会在北京召开。在这次会议上，根据新宪法关于设立国家的中央军事委员会的规定，选举了国家军委的领导人，邓小平被选为军委主席，叶剑英当选为军委副主席。被选为副主席的还有徐向前、聂荣臻、杨尚昆。这时，叶剑英已是８６岁高龄的老人。他仍然是那样热爱军队，关心军队，他的心，始终同这支人民的军队紧紧地连在一起。
叶剑英在外交工作方面，具有丰富的经验和杰出的才能。早在战争年代，他就曾代表中国共产党及其领导下的人民军队进行了大量的外事活动，为中国共产党积累了丰富的外交斗争经验，培养了许多外交干部，对建立和扩大中国共产党在国际上的影响做出了贡献。新中国成立以后的五六十年代，他率军事代表团先后访问了印度、缅甸、越南等国家，加强了中国人民和人民军队同这些国家军队、人民之间的友谊。他随刘少奇主席访问了朝鲜，随周恩来总理访问了越南，为发展中朝、中越两党两国的友谊作出了努力。他还随彭德怀访问过苏联、波兰等国，增进了中国人民和军队同这些国家人民和军队之间的了解。７０年代，叶剑英作为党、国家和军队的重要领导人，根据毛泽东、周恩来制定的外交路线，接待了一大批来访的外国党政领导人和军事代表团，同他们进行了热情、友好的会谈。向他们介绍中国革命和建设事业的历史与现状，虚心听取对方的经验和意见，从而增进了中国同这些国家之间的友谊，也提高了中国的国际威望。