新中国成立，为适应军队正规化建设发展，军委决定建立干部管理制度，总政部主任罗荣桓负责筹建总干部部。
选调谁到总干部部工作，他采用“五湖四海”的原则，由大军区选调干部，报总干部审定。远在新疆工作的徐立清，被指定调任总干部部任副部长。
罗荣桓对徐立清的能力是清楚的，对朱老总说，希望徐立清到总干部部多做一些工作。言外之意，希望重点培养，或许未来可以接替罗荣桓的工作。
当时，总干部部不止一个副部长，按罗荣桓“五湖四海”的任用原则，四野调赖传珠来工作。因赖传珠资历深，排第一副部长，徐立清担任第二副部长，主管全军干部任免和组织分配工作。
徐立清接到调令离开新疆时，新疆军区司令员王震给罗荣桓打电话，告诉他：徐立清是一位很公道正派的干部，工作经验丰富，放心用，不会有问题。
作为总干部部部长的罗荣桓说到：徐立清在战争年代贡献大，毛主席对他信任，这样好的同志来工作，自己是放心的。当彭老总得知徐立清调北京工作后，对他表示祝贺，说到：全军干部工作千头万绪，任重道远啊！
这句话很快就应验了。
自1952年，全军开始为评级，为日后授衔做准备。这样的工作非常繁重，对于评级来说相对容易一些，主要根据战争时期的职务为依据。可在1955年的评军衔时，遇到的问题真是千头万绪。
像1952年被评为副兵团级的42位将领，谁评为上将，谁为中将？是个难题，像203位正军级，谁授少将，谁授中将，也是个难题。论资历、战绩、德行、来自哪支部队等，都要慎重考虑。
当时的徐立清被评为正兵团级，按级别应该被评为上将，总干部部也是这样上报的。可他为更好开展工作，让那些争军衔的将领有所反思，执意要降低军衔，先后找罗荣桓、彭德怀，最终找到周总理，才说通降军衔的事情。
用王震的话来说，徐立清是一位公道正派的干部，不被权力和荣誉所诱惑，在一般人眼里很难做到。
