建国初期,新中国政府由于各种原因弃用了大部分国民党时期外交部的人员。迫切需要一些政治可靠的,有政治资历的人来担任驻外的外交人员。于是新中国政府通过在军队中选拔培训中高级军官的办法来填补空缺。由于这些人官阶比较高,都是军人出身。于是就被称为将军大使。