之中，却又最为担心的事：斩杀所有的被征士卒。
要完成这件事，首先要找到当初征兵的名单。王翦作为郡守，下令各乡邑寻找当初征发的名单。经过这场叛乱后，名单已经找不全了。但仍然有不少零散的名单被找到。他们中间的大部分已经逃亡或死在各城中，但依然有数百人被乡邑压解到郡。
最无法逃脱被杀命运的，就是上党尉无伤的亲卫。他们作为上党的正式军队，先是未能及时发现上党的反叛迹象；在上党反叛后，又没有积极与叛军斗争，按律当灭族。考虑到他们仍然在黎城坚持，并数度与叛军作战，保全的黎城，由灭族降为斩首！但允许他们缴还爵位赎罪。无伤的亲卫都是身经百战的武士，立下不少战功。在归还爵位后，少数高爵的官员得以免罪，大部分亲卫都被判程度不同的徒刑。经过一番解释，卫尉宣布，被判流刑的，全都跟随上党邑民前往临洮。但仍有数人爵位不足，将被判刖、宫等刑。他们不愿意受刑，宁愿一死来个痛快。
在汇总后，在卫尉的监督下，全部处斩的军事被斩于长子城外，首级传于各县。虽然也是一件大事，但比起平叛的时候杀得人头滚滚，已经好了许多。
另一件难办的事，就是要将上党的居民全部迁往临洮。临洮以洮水而得名，洮水在从青藏高原奔流而下，在这里突然打了个大弯，转向西北流。这个由洮水河弯围成的区域，当时叫临洮，是秦国陇西新征服的一片区域，几乎是秦国的最西边了。从上党到临洮二千多里，如果没有很好的组织，几乎不可能过去。
卫尉竭认为，移民临洮是为了戍边，因此老弱妇孺就不要去了，只让上党的丁壮带着妻儿前往。