1860年，曾国藩刚刚被任命为两江总督，这是与太平军殊死搏斗的关键时刻，他却不忘一项重要工作，选拔优秀县官。众所周知，在曾国藩的亲自培养和推荐下，产生了一大批高级官僚，他们一度都成了封疆大吏，影响了整个晚清历史。然而在曾国藩看来，重建基层州县干部梯队，唤起一批风清气正的为政环境，比简单推荐几个大员更为重要。
就在整个战争最吃紧、关键的时刻，曾国藩为何把选拔优秀知县作为头等大事来抓？这要上升到曾国藩人才观和干部梯队建设的层次上来解读。
知县是官员梯队中的“七品小吏”，但是他们却是直接治理基层百姓，所谓“勿道一官无用，地方全靠一官”。
“官之至难者，令也。”一个至字，颇见工作中的复杂难度。中国自秦代郡县制以来，无论朝代如何更替变换，郡县制一直都是地方政府的沿袭的行政举措。众所周知，晚清基层官场极为腐朽，加剧了与百姓的矛盾。晚清的农民起义很大程度上是对官僚阶级的一次矛盾大爆发。
曾国藩深刻地认识到了知县在整个官场的重要位置，为了缓冲官场各种腐朽的“陋规”，革除无能官吏，重新打造一支优秀地方州县干部，曾国藩可谓煞费苦心。在被困祁门的时候，面对的军事压力极其强大，就是这种情况之下，他还派出幕僚，秘密考察两江地区所有高级官员的优劣。同时要求副省级和道员级官员们汇报自己属下的干部情况。他还仿效唐代武则天办法，在衙门口放一个木箱子，名为举劾箱。号召鼓励所有军民实名举报贪污不法官员，总督掩门对举报人保护人身安全。
与此同时，曾国藩到处物色能胜任知县的人员，以便在安徽树立清廉的榜样，以此净化基层干部风气。请朋友们推荐人才时说：“唯须得极清廉极贤之州县一二人，来此树之风声”。他由于军务太忙，把这件事情具体交给了湘军统领李元度去办，告诫他说：“与民更始，庶几渐有转机”。曾国藩在安徽巡抚翁同书勉强合作下，还想更换皖北的大部分官员。他写信向胡林翼求助：“皖北州县，一一请公以夹袋中人才换之，俟当附片奏之。”
曾国藩迫切希望他的“人存而后政舉”的思路能够发展下去，希望重振儒家人生信条，为万世开太平。只有逐步建成优秀合格的州县官吏队伍，这些远大的目标才有可能实现。
从出任两江总督的第一天起，他就不断地一再告诫属下地方官保持清廉。他在给出任庐江县令的批语中这样写道：“该令以书生初历仕途，惟俭可以养廉，惟廉可以生明，此二语者，是做好官的秘诀，即是做好人的命脉。临别叮嘱之言，千万勿忘！”
望江县令到任，曾国藩也这样批示：“该令初次做官，未染宦途习气，尤宜保守初心。无论作至何等大官，终身不时寒士本色。常以勤字廉字自励，如天地之阳气，万物赖之以发生。”
在给冯卓怀的禀文上，他也这样批示：“勤、廉二字，是居官根本，该署令颇能从此著力，案到即办，是勤于治事也。”
总而言之，他要求州县官员自己应该“一分一毫，一出一入，无不可对人言之处”。曾国藩由于为政极其廉洁，所以对提拔任用的官员要求也极高，但是晚清官场风气未开，整体素质日益沉沦，局部上的改变还是差强人意。同治元年，他在给安徽巡抚李续宜的信中说，他选用的州县官员，皆不惬物望，而李巡抚留用的那些人，也非称意之选。以此可见曾国藩在此问题上的力不从心，也同时反映了他在构建州县队伍的要求标准和迫切心情。
在调任直隶总督后，他又发现，这个帝都的官场风气素质更是不堪。在保定的途中，曾国藩一路留心考察直隶的吏治，结果令他非常震惊。他说直隶“风气之坏，竟为各省所未闻”，“此间吏治极坏”。在给皇帝的奏折中，他这样说道：“臣入境以后略询民间疾苦，大约积狱太多，羁累无辜。闻有州县到任年余，未曾升堂一次，讯诘一案者。”对此现象，曾国藩决定痛加整顿，“大加参劾”，“严立法禁，违者重惩”。他对人说，自己“素非苛刻者流”，这样做实在是不得已，“非刚猛不能除此官邪”。
对直隶官员进行摸底调研考察后，曾国藩在同治八年四月将第一批参劾官吏向朝廷统一进行了汇报。参劾的十一名不称职人员均为知县、知州以上官吏。曾国藩详细列举了他们的主要劣迹“性情卑鄙，操守不洁”“貌似有才，心实贪酷”，或是“擅作威福，物议沸腾”，或是“品行卑污，工于逢迎”“浮征勒派，民怨尤甚”，或是“词讼置之不理，积压尤多”。这些参劾措辞激烈，可以想见曾国藩对当时州县官吏的不作为、贪渎违纪到了极端痛心疾首的地步。
把州县官吏汰换之后，他就开始清理积压案件，当时直隶官场的最大弊病就是不作为。曾国藩发现，从同治八年三月底，直隶积压的同治七年以前的案件竟达一万二千余件。仅保定府衙门中由朝廷交办下来处理的重大上访案件就达一百三十余件。这些案件有的搁置二三年，有的一拖就是八九年。曾国藩不得不感叹：“吏治之弊，民生之困，端由于此。”
与此同时，曾国藩通过考察，提拔了一批读书人做州县官吏，重点集中在德才和办事方面。在接任直隶总督一年后，在曾国藩的带动鞭策下，结清了同治七年以前的旧案一万两千零七十四件，同治八年以来的新案两万八千一百二十一件，没结清的旧案只有九十五件，新案只剩两千九百四十件。要知道此时曾国藩除了严重的皮肤病外，已经患有多种老年疾病，加之眼疾严重，可以想见他对此重大工作承担了常人难以理解的艰难。
从两江总督到直隶总督，曾国藩在构建州县干部和清理官场不作为等问题上付出了巨大精力，用他的话就是：“不得不刑恶人以伸善人之气也”。然而面对大清官场道德整体滑坡的情形，曾国藩遗憾地向好友郭嵩焘倾诉说：“吏治毫无起色，可愧之至”。这里虽然多少有自谦之词，但多少表达了他力不从心之感，但是整顿吏治，着重基层州县官吏的任用选拔，曾国藩为政的巨大亮点之一，也表现了一代名臣对政治高度负责的宝贵精神。