1940年到1941年，由于国民党的封锁和日伪军对抗日根据地的扫荡，解放区各个抗日根据地遭遇到空前的物质困难。部队几乎达到没有衣穿，没有油吃，没有纸，没有菜，战士没有鞋袜，工作人员在冬天没有被盖的地步。为了摆脱这一困境，使革命队伍继续保持高昂的战斗力，彻底粉碎国民党和日本帝国主义的阴谋，毛泽东另辟蹊径，果断提出：我们必须克服这个困难，我们的重要的办法之一就是精兵简政。
精兵简政本来是一项壮士断腕般的艰难工作，但举重若轻的毛泽东却用一个《西游记》中孙悟空的比喻为大家指明了方向：何以对付敌人的庞大机构呢？那就有孙行者对付铁扇公主为例。铁扇公主虽然是一个厉害的妖精，孙行者却化为一个小虫钻进铁扇公主的心脏里去把她战败了。我们八路军新四军是孙行者和小老虎，是很有办法对付这个日本妖精或日本驴子的。目前我们须得变一变，把我们的身体变得小些，但是变得更加扎实些，我们就会变成无敌的了。毛主席的这以形象的比喻，使大家迅速理解了这次精兵简政的意义，明确了任务目标。
随后陕甘宁边区政府根据中共中央和毛主席的的指示，先后在边区进行了三次精兵简政：一是通过动员广大官兵下田间，进地头，到工厂，播种插秧，纺纱织布，炼钢打铁，开展大生产运动，短时间内改善了部队的粮食和物资供给状况。二是将党政军民等组织机构的脱产人员缩减三分之一，使脱产人员与根据地的供养能力相适应，从根本上解决鱼大水小的矛盾。三是压缩各级领导机构，减少机关行政人员和部队的非战斗人员，充实到基层连队，将编余干部送到学校和训练班储备与学习。随着精兵简政工作的深入推行，一大批干部通过深入群众，走进基层，走上前线，在思想上受到了洗礼，摆脱了高高在上的官僚主义和形式主义，密切了党与人民群众的血肉联系，部队战斗力得到了极大提升，为后来的解放战争奠定了思想基础。
后来毛主席在总结这次运动时谦虚地说：‘精兵简政’这一条意见，就是党外人士李鼎铭先生提出来的；他提得好，对人民有好处，我们就采用了。
延安时期开展的精兵简政工作，是中国共产党人从群众中来，到群众中去，艰苦朴素，艰苦奋斗思想的体现，是一份宝贵的历史财富，这对突破以美国为首的西方国家对我国的战略围堵，仍然具有重要的指导意义。
