在俄国十月革命期间，有大量反对革命的人离开俄罗斯，流落到其他国家，总数在万上下。他们去的地方主要是欧洲，包括丹麦，瑞典，波兰，白俄罗斯，乌克兰，德国等。这些人被称为白俄，以区别于参加革命的红色俄罗斯。这些人包括各民族，除了俄罗斯族之外，还有哥萨克、日尔曼等。其中也有一部分来到了中国，主要在新疆和东北两地。这就是中国俄罗斯族的最初来源。但是在当时绝大多数人并没有中国国籍，他们属于流落他乡的俄国人。
一九二八年，哈密爆发少数民族农民起义，当时主政新疆的金树仁鉴于政府军节节败退，无力抵御起义军的进攻，因此派人联络流落在中国新疆境内的俄罗斯人首领。当时这些人被统称为归化族，除了少数在中国经商发财的人之外，其他人基本依靠给新疆本地人打工，比如帮人干农活，帮人放牧等等，这样来维持生活。而这些归化族也有比较松散的组织，首领就是那些有钱的俄罗斯人。
由归化族首领组织，组建了两个归化团。他们的工资是政府军工资的两倍，武器本来也是按照政府军武器的标准发放，但是中途遭遇各种折扣，所以他们武器装备还不如政府军。但是归化族身材高大，身体素质好。尤其是他们在俄国国内革命战争中经过了战争的洗礼，战斗勇敢有章法，尤其是骑兵连，让起义军闻风丧胆。这些归化军有一部分取得了中国护照，但也有一部分是黑户。
在归化军的进攻下，哈密起义军节节败退。后来他们到甘肃引入了马仲英的军队，才终于保存住了自己。归化军的战斗力可想而知，战斗民族也不是无中生有叫出来的。但是金树仁自食其言，归化军的工资发放经常被拖延，被克扣，这些战士们生活很困苦。他们后来在国民党当局的组织下，和东北义勇军一起发动了四幺二政变，把金树仁赶下台。而盛世才借此机会逐步巩固了在新疆的统治地位。
年，因为塔城战事，盛世才政府派人组建了塔城归化团，被称为归化第三团。但是这个团组建之后，并没有在塔城作战，而是直接调入乌鲁木齐。盛世才知道归化军的战斗力，希望用来保护自己。而塔城的军队和马仲英的军队互相配合，给盛世才政府形成极大威胁。在盛世才的请求下，苏联政府派出两个团从阿勒泰进入中国。这是两个苏联红军团，但是他们在新疆自称为归化军，这两个团是假的归化军。他们在帮助了盛世才之后，绝大多数回到了苏联。
总体来说，解放前在新疆境内，一共出现过三个归化团，以及两个冒牌归化团，此外还有一些零星的归化军组织。这些归化军给稳定盛世才在新疆的统治立下了汗马功劳。但是盛世才是一个不讲情义的枭雄，他在稳固统治之后，立即露出狰狞面目，对拥立自己的归化军和东北义勇军下手。他把归化军的团长等人投入监狱，解散了归化军，收缴了他们的武器。甚至归化族的上层人物，也有一部分被投进了监狱，被杀害。
这些归化军大部分回到民间，重新过起以前那种打工的生活。也有一部分回到了苏联境内，有少量通过辗转方式到了国外，其中到外蒙古的数量稍微多一点。而留在新疆境内的，有一部分人参加了三区革命。所以后来中国人民解放军第五军的战士中，有一些人是当年的归化军，数量不多，可能有几十人。
第五军的军部成立了伊犁军区，在当时属于省级军区。还有一部分参加南疆剿匪的，成立了喀什军分区。另外大部分在一九五四年就地转业，成立了新疆生产建设兵团第三师和第四师。这两个师直到今天还存在。其中第三师是新疆生产建设兵团中人口最多的师，也是少数民族最多的师，师部驻地本来在喀什，几年前搬到了图木舒克。第五军保留了两个骑兵团。后来和新疆的其他部队一样，番号和归属都变动过好几次，到现在已经取消了骑兵了。归化军也因此永远成为了历史。