在党的建设上，陈云和都主张坚持原则，从严治党，
又要爱护干部；都十分重视接班人的选拔与培养
在党的建设上，一向坚持原则，从严治党，反对搞特殊化。延安时期，他对黄克功事件的严肃处理，就是一例。
黄克功，当时是抗大第6队队长，参加过长征，身经百战，是一个很有才华的年轻军事将领。1937年10月上旬的一天傍晚，他与其女朋友、陕北公学学生刘茜在延河边谈话，黄强行要与刘尽快结婚，遭到刘的断然拒绝，黄一怒之下，开枪将刘打死。
出事当天，抗大副校长罗瑞卿就把这件事报告了。很愤怒，说：“这是什么问题？这是什么问题！这样的人不杀，我们还是么！？”黄被关押后，自感罪孽深重，曾写信给边区高等法院雷经天院长，请求法院顾念他多年为革命事业奋斗，留他一条生路，“以便今后为党尽一点忠”。在收到雷经天转来的黄克功的信后，很快给雷经天回了一封信。
在信中说：你的及黄克功的信均收阅。黄克功过去斗争历史是光荣的，今天处以极刑，我及党中央的同志都是为之惋惜的。但他犯了不容赦免的大罪，以一个员红军干部而有此卑鄙的、残忍的、失掉党的立场的、失掉革命立场的、失掉人的立场的行为，如为赦免，便无以教育党，无以教育红军，无以教育革命者，并无以教育做一个普通的人。因此中央与军委便不得不根据他的罪恶行为，根据党与红军的纪律，处以极刑。正因为黄克功不同于一个普通人，正因为他是一个多年的员，是一个多年的红军，所以不能不这么办。与红军，对于自己的党员与红军成员不能不执行比一般平民更加严格的纪律，当此国家危急革命紧张之时，黄克功卑鄙无耻残忍自私至如此程度，他之（被）处死，是他的自己行为决定的。一切员、一切红军指战员、一切革命分子，都要以黄克功为前车之戒。请你在公审会上，当着黄克功及到会群众，除宣布法庭判决之外，并宣布（读）我这封信。对刘茜同志之家属，应给予安慰与抚恤。随后，黄克功被依法处以死刑。还多次以此作为事例，教育党员干部，切不可居功自傲，贪图享乐，欺压群众，自私自利。
在延安整风运动中，曾指出：“我党历史上曾经有过几次表现了大的骄傲，都是吃了亏的。”“全党同志对于这几次骄傲，几次错误都要引为鉴戒。”因此，他向全党推荐郭沫若的《甲申三百年祭》一文，要求大家认真阅读，并“引为鉴戒，不要重犯胜利时骄傲的错误”。
1945年，着名民主人士黄炎培访问延安时，曾向直言指出：我生60多年，耳闻的不说，所亲眼看到的，真所谓“其兴也浡焉”，“其亡也忽焉”，一人，一家，一团体，一地方，乃至一国，不少单位都没有能跳出这周期率的支配力。一部历史，“政怠宦成”的也有，“人亡政息”的也有，“求荣取辱”的也有，总之没有能跳出这周期率。诸君从过去到现在，我略略了解的了，就是希望找出一条新路，来跳出这周期率的支配。在深感黄先生的直率与真诚的同时，充满自信地指出：“我们已经找到新路，我们能跳出这周期率。这条新路，就是民主。只有让人民来监督政府，政府才不敢松懈。只有人人起来负责，才不会人亡政息”。
新中国成立前夕，为了防止广大干部在胜利后滋长骄傲自满的情绪，在党的七届二中全会上，在讲话中又严肃地指出：因为胜利，党内的骄傲情绪，以功臣自居的情绪，停顿起来不求进步的情绪，贪图享乐不愿再过艰苦生活的情绪，可能生长。因为胜利，人民感激我们，资产阶级也会出来捧场。敌人的武力是不能征服我们的，这点已经得到证明了。资产阶级的捧场则可能征服我们队伍中的意志薄弱者。可能有这样一些人，他们是不曾被拿枪的敌人征服过的，他们在这些敌人面前不愧英雄的称号；但是经不起人们用糖衣裹着的炮弹的攻击，他们在糖弹面前要打败仗。我们必须预防这种情况。夺取全国的胜利，这只是万里长征走完了第一步。如果这一步也值得骄傲，那是比较渺小的，更值得骄傲的还在后头。在过了几十年之后来看中国人民民主革命的胜利，就会使人们感觉到那好像只是一出长剧的一个短小的序幕。中国的革命是伟大的，但革命以后的路程更长，工作更伟大，更艰苦。这一点现在就必须向党内讲清楚，务必使同志们继续地保持谦虚谨慎、不骄、不躁的作风，务必使同志们继续地保持艰苦奋斗的作风。我们有批评和自我批评这个马克思列宁主义的武器。我们能够去掉不良作风，保持优良作风。他还要大家再次学习郭沫若写的《甲申三百年祭》一文，要求广大干部一定要记取历代农民起义小胜即骄傲、最终导致失败的教训。全会根据他的提议，通过了不祝寿、少敬酒、少鼓掌、不以领导人的名字来命名工厂、学校和道路等6项规定。
1949年3月23日，在离开西柏坡前往北京时，曾兴致勃勃地说：“今天是进京的日子，不睡觉也高兴啊。今天是进京‘赶考’嘛。进京‘赶考’去，精神不好怎么行呀？”周恩来跟着说道：“我们应当都能考试及格，不要退回来。”接着说：“退回来就失败了。我们决不当李自成，我们都希望考个好成绩。”
但在建国后不久，还是有一些领导干部未能经受住执政的考验，很快就腐化变质。他们追求享乐，私欲膨胀，官僚主义严重，成了骑在人民头上作威作福的分子。
为了支援抗美援朝战争，中央决定在1951年在全国范围内开展一场声势浩大的爱国增产节约运动，但在这一运动开展后，全国各地先后暴露出了一批严重贪污的违法行为。对此深感震惊，想不到这些害群之马在这么短的时间内就已蜕化变质。既是为了要对这些变质分子以严厉惩处，更是给有同样错误想法但尚未来得及实施的其他领导干部以警醒，并能对有轻微错误行为的领导干部以深刻而又及时的教育与挽救，决定在全国范围内发动一场大规模的反贪污、反浪费、反官僚主义的“三反”运动。在刘青山、张子善等人的严重罪行暴露出来后，对领导干部中存在的问题一度估计得非常严重。
1951年11月底，在转发中央西南局的一份报告时，指出：“反贪污、反浪费一事，实是全党一件大事。”“我们认为需要来一次全党的大清理，彻底揭露一切大、中、小贪污事件，而着重打击大贪污犯，对中小贪污犯则取教育改造不使重犯的方针，才能停止很多党员被资产阶级所腐蚀的极大危险现象，才能克服二中全会所早已料到的这种情况，并实现二中全会防止腐蚀的方针。”他还指出：“必须严重地注意干部被资产阶级腐蚀发生严重贪污行为这一事实，注意发现、揭露和惩处，并须当作一场大斗争来处理。”12月8日，他在致华东局、福建省委并告各中央局、各大军区等的电报中，又指出：“应把反贪污反浪费反官僚主义的斗争看作如同镇压反革命的斗争一样的重要，一样的发动广大群众包括民主党派及社会各界人士去进行，一样的大张旗鼓去进行，一样的首长负责，亲自动手，号召坦白和检举，轻者批评教育，重者撤职，惩办、判处徒刑（劳动改造），直至枪毙一大批最严重的贪污犯，全国可能须要枪毙1万至几万贪污犯才能解决问题。贪污分子，浪费分子和官僚主义分子当然大多数不是反革命分子（可能有一部分人即是反革命分子），他们的罪名是贪污浪费和官僚主义，但这个问题现在已极严重，必须看作如同镇压反革命斗争一样的重要，一样的发动人民群众大张旗鼓去进行斗争，一样的用死刑和徒刑等对待他们，并且一样的要查明情况，心中有数（犯贪污的占全体工作人员的百分之几，轻者重者最重者又各占百分之几），精密地掌握这一斗争。”12月21日，他在批转华北军区后勤部关于“三反”斗争的报告时，指出：“军事系统各部门，特别是后勤部门，贪污、浪费和官僚主义的情况极为严重。很多党员，甚至负责干部，沉埋于事务工作，政治思想极不发展，党员生活极不健全，因此许多人陷入了贪污、浪费和官僚主义的泥坑，许多人本位主义极为浓厚，只顾小局，不顾大局。这种情况，必须改变。必须在整个军事系统，特别着重在后勤部门，展开整党整风，展开反贪污反浪费反官僚主义的严重斗争，并号召一切指战员参加这个斗争。”12月底，收到谭政关于开展“三反”运动的具体部署后，觉得中南军区的动作迟缓，立即于1952年元旦凌晨2点复电中南军区，要求他们对运动要“严加督促，勤加指导，务使每天都有收获”，并对来电的“不妥之处”作了修改，派专人连夜乘专机将修改稿送到中南军区，以引起重视。
1月4日，又发出指示，要求各地“缩短学文件的时间（有四五天就够了），召开干部会，限期展开斗争，送来报告”。并说：“违者不是官僚主义，就是贪污分子，不管什么人，一律撤职查办。”在的督促下，“三反”运动在全国迅速展开。进入1月下旬，运动开始向纵深发展，进入打“老虎”（当时，人们称贪污犯为“老虎”。贪污旧币1亿元以上的大贪污犯叫“大老虎”，1亿元以下、1000万元以上的叫“小老虎”）阶段。
运动进入打虎阶段后，特别是在揭露出刘青山、张子善二人的严重罪行后，对运动的指导更加重视。
刘、张二人是天津地区的党政主要负责人。刘青山曾任天津地委书记、石家庄市委副书记。张子善曾任天津专区专员、天津地委书记。在长期的革命战争中，他们出生入死，为中国人民的解放事业作出了自己的贡献。刘青山为反抗国民党的反动统治，曾卧过铁轨；张子善在国民党的监狱中，为抗议反动狱警的迫害，绝过食。但在建国后，他们逐渐放松了对自己的严格要求，贪图享乐起来。他们扬言：“天下是老子打下来的，享受一点还不应当吗？”他们凭借手中的权力，大肆贪污天津机场建筑款、救济灾民款、治河款、干部家属救济款、地方粮款，剥削克扣民工工资，假借机关生产名义，勾结私商非法经营，共计贪污盗窃、非法牟利数百亿元（旧币）。刘、张二犯的严重罪行被揭露后，异常震惊，一连几天失眠、头痛，睡不着觉，并对身边的工作人员说：“还记得黄克功吗？”又说：“刘青山、张子善同黄克功是一样的，他们都是个人主义恶性膨胀，做了资产阶级的俘虏，不想为人民服务，而是利用手中的权力欺压人民。这样的人不除，我们就不是了！”
在是否严惩刘、张二人的问题上，有关部门起初的意见并不一致。有的认为他们过去为党的事业做出过很大的贡献，应适当从轻处理，不主张判他们死刑。为此，他们的老上级、时任天津市委书记的黄敬，曾找到专门负责“三反”工作的薄一波，请他去向求情，免刘、张二人一死。
对薄一波说：正因为他们两人的地位高，功劳大，影响大，所以才要下决心处决他们。只有处决他们，才可能挽救20个、200个、2000个、20000个犯有各种不同程度错误的干部。黄敬同志应该懂这个道理。对刘、张二人的处决，收到了很好的效果。但由于对形势估计得过于严重，在运动的后期，也产生了一些问题。
1952年1月23日，在关于“三反”斗争展开后要将注意力引向搜寻“大老虎”的电报中指出：“凡属大批地用钱管物的机关，不论是党政军民学哪一系统，必定有大批的贪污犯，而且必定有大贪污犯（大老虎）。有些人以为党的机关，宣传和文化机关，民众团体，用钱不多，必无大老虎，这是不正确的。早几天还以为中央文教机关一个老虎也没有，经过最近两天的寻找研究，就发现至少可以捉到15个贪污1亿元以上的大老虎。因此，请你们注意，在每一部门、每一地区三反斗争激烈展开之后，就要将同志们的注意力引向搜寻大老虎，穷追务获、不要停留，不要松劲，不要满足于已得成绩。”并指出：“在这方面，要根据情况，定出估计数字，交给各部门为完成任务而奋斗。在斗争中还要根据情况的发展，追加新任务。”1月24日，他又在一份批语中要求“每个大军区系统（包括各级军区和各军）至少有几百只大小老虎，如捉不到就是打败仗。地方上每个大省也可能有几百只，每个大城市可能有一百只至几百只，上海可能有上千只。”
在的一再严厉督促下，各地打虎的数目开始节节上升。在1月20日以前，中央一级还只承认仅有十几只大老虎，但到27日，就已捉到和认为可捉到400只，其中：财经部门200只，军事部门100只，政法文教和党的部门100只。这些还都是1亿元以上的大老虎。后来，中央一级共查出贪污分子1万人。
华北局提出，像山西这样的省应有大小老虎1000只至1300只，其中大老虎应有100只至130只。华北军区在严词督责下，打虎工作进展迅速，“捉虎甚多”。东北地区到1月26日已捉到500只老虎，查出大小贪污分子16万多人。到2月初，打虎数目又上升到2000只。
打虎运动也扩展到了农村地区。平原省的武陟县县级机关到2月初已清出1000万元以上的老虎18只。据河北省香河县9个村的初步调查，有贪污行为的村干部，多的达72%，少的占13%，平均为33%。最严重的地方，9个支部书记中有7个贪污，9个村长中有8个贪污。
各地报来的不断加码的打虎数目，不仅使断定发动“三反”运动的必要性，而且也更进一步使他感觉到问题更加严重。他根据各地报来的情况判断：“每一个小省应有大小老虎几百只，每一个中等省和大省应有大小老虎一二千只至三千只”。根据这一判断，他对各地打虎工作提出了新的要求并作了重新部署。
2月4日，在给谭政的电报中指出：“你们1月31日给我的报告所述对各省任务的分配数目都太少，是不合实际的，必须指导他们逐步增加。特别是广东军区系统包括海防和各军在内至少有几百只乃至上千只大中小老虎，而你们只分配该军区大老虎20只，中小老虎180只，这是完全不适当的。你们对各省压力太小，迁就他们的右倾思想，特别对广东是如此，望注意改正。”
2月5日，在批转山东分局打虎报告时又指出：“像山东这样的大省，有党、政、军、民、学五个方面，有十几个大中城市，有很多分区和县城，1000万元以上的大中小老虎，应当不是几百只而是几千只，不是一二千只而是三四千只。其中一亿元以上的大老虎以1/10计，应当不是几十只而是几百只。我提议分局立即召开一次打虎会议，规定打虎数目，限期完成任务。上面每天用电话催督一次，下面每三天用电话或电报汇报战绩一次。军区系统打虎也不起劲，应由分局负责统一指挥他们。无论何方面，凡打虎不力者应予批判，严重者撤消职务。”2月10日，他在中央华北局第三书记、华北军区副政治委员刘澜涛“关于华北军区后勤部‘三反’斗争报告”上批示道：“大贪污犯是人民的敌人，他们已经不是我们的同志或朋友，故应坚决彻底干净全部地将他们肃清，而不应有丝毫的留恋或同情。”
的严厉督促对“三反”运动的迅速展开和深入发展起到了重要的作用，但他对当时干部队伍中存在的问题的过高估计和直接下达“打虎”数字的做法，也给基层干部造成了很大的压力，从而使运动出现了“过火”的问题。如有的地方出现了逼供信的现象；有的机关干部都打虎去了，正常的业务工作没人管了；有些财经机关的干部因怕当“老虎”，上街是几个人一起去，跟资本家谈话也是几个人，一个人不敢讲，电话一个人也不敢接。有的工作人员为了表示与资本家划清界限，对私营企业验货的规格搞得特别严，标准特别高，“次货”达到60%~70%，甚至80%。上海有的地方在验乒乓球时，还要用显微镜一个一个地照。有的人索性就不想干了，提出要调动工作。这些都严重影响了正常工作特别是财经工作的秩序。
对“三反”运动中出现的这种过火现象，直接领导财经工作的陈云很早就觉察到了。2月8日，在政务院第123次政务会议上，他就针对“三反”对农村造成的影响，明确提出：“春耕时节乡下不能搞‘三反’，这点应该写在文件上。”陈云对建国初期财经干部中存在问题的估计也与不太一样。他认为，在财经队伍中，“贪污的人是有的，但是比例不大。原因就是现在吃穿难，穿上政府的衣服，挂上那么个牌牌，名誉、前途是要紧的，如果贪污被赶走，就不能在政府里边工作了。”
但当时，正处在“打虎”的兴头上，不好直接进言。然而，有问题不向上反映又不是陈云的一贯风格。于是，他采取了一种迂回的办法。2月15日，政务院开完会后，他和负责“三反”工作的薄一波找到周恩来总理，向他反映了“三反”运动中出现的业务停顿等严重问题，认为这一问题到了该解决的时候了，希望周恩来能向反映。
与陈云等谈完话后周恩来当即致信，说：今日政务院会议后，同陈云、薄一波谈到“三反”斗争中业务停顿的问题现在已到应该予以解决的时候了。“照中央部门‘三反’斗争的情况看来，每个机关各级领导干部中抽出1/3或1/4的人来专搞业务，是完全可能的，不致于影响‘打虎’工作。”在接到周恩来的信后，于次日凌晨批示：“我完全同意你的意见，请速予调整”。2月22日，在转发华东军区党委关于“打虎”情况的报告时，指出：“目前第一要注意打尽老虎，不要松劲；第二注意调查研究，算大账，算细账，清查老虎真假，严禁逼供信。注意这两条，就可获得全胜。”
在得到和周恩来的明确赞同后，陈云随即开始了纠偏工作。2月24日，中财委发出指示，要求各级财委和各级财经部门在“三反”运动中抽出一定力量，进行当前必须的业务工作，如贸易、税收、生产、运输等，并决定贸易部立即恢复收购土产及加工定货等工作。3月25日，陈云签发中财委致各大区财委负责人电，指出：在“三反”运动中，各地亟须恢复财经业务工作，要随时掌握动态报告本委，并定期作出综合报告。4月30日，他在批转东北人民政府工业部关于第一季度生产情况的简要报告时，再次指出：“三反”运动的建设阶段，是深入民主改革的补课工作，“三反”运动的成果必须具体地表现于经营管理的改善上。
由于及时进行了调整，“三反”运动中出现的财经工作秩序混乱的现象，迅速得到了制止。不仅如此，由于陈云等的及时提醒，进入3月份后，也不再直接向各地下达“打虎”指标。4月以后，又开始布置“收兵”，准备结束“三反”运动。从而也就使“三反”运动中出现的过火现象，没有再进一步扩大。
陈云为人虽然一向平易近人，但在事关党的原则问题上，在事关党的事业成败问题上，在党的思想作风问题上，他和一样，毫不含糊，决不做老好人。他总是旗帜鲜明地与危害党的思想、行为进行不妥协的斗争，坚决地扞卫党的根本利益、根本原则。
1939年5月，他发表了《怎样做一个员》等文章，对遵守党的纪律问题做了专门的论述。他在总结了建党以来的经验教训后，指出：18年来的党的斗争经验，证明了纪律是执行党的路线的保证。他说：我们党要领导无产阶级及劳动人民争取彻底的解放，这不是容易的事。革命胜利的基本条件之一，就是要使无产阶级的党成为有组织的统一的部队。只有有组织和统一才是我们的武器，才是我们的力量。要保障我们党能有组织和统一，这就需要有严格的纪律。他引用列宁的话说：“无产阶级的无条件的集中和严格的纪律，是战胜资产阶级的基本条件之一。”在他看来，纪律是中国不可缺少的重要武器。只有运用这个武器，才能保证党的意志和行动的统一，保证党在政治上、思想上、组织上、行动上的统一；才能团结广大人民群众，认真贯彻执行党的路线方针政策，推动中国革命向前发展。否则，非但什么事情都干不成，还可能断送革命。
1942年3月，他在中央文委召开的党的文艺工作座谈会上，在谈到遵守纪律问题时又说：可否不要纪律呢？如果不要也可以，那就是讲的6个字“亡党亡国亡头”就一定不可避免。我们党是一支战斗的党，依靠的武器，惟一的就是纪律。
遵守纪律不是一句空话，而是要落到实处。陈云认为，只有迅速确切地执行党的决议，才算是真正执行了纪律。这是为什么呢？他说：这是“因为党所规定的‘个人服从组织，少数服从多数，下级服从上级，全党服从中央’，无非是用这样的民主集中制来作出党的决议，统一党的意志和行动。这个决议，这种纪律就不仅是口头上的赞成，而要在实际上去执行。那么，为什么要‘迅速确切’地执行呢？因为要考验你在实际工作中执行决议是拖延的，敷衍的，甚至故意歪曲的，还是真正忠实执行的。党决不允许任何党员在党的决议面前有‘阳奉阴违’的两面派态度。”
要能真正执行党的纪律，必须心口一致、言行一致。陈云指出：员必须言行一致，这是党规定的。违反了这一条，就是违反了党的纪律。他说：口头上说要遵守纪律并不难，困难的是在实际行动上真正遵守党的纪律。我们要求的是会场上这样说，散了会私下里也这样说，不但这样说也要这样做。他指出：“党不仅在课堂上要教育党员遵守纪律，而且要在每个具体违反纪律的问题上给以纪律的教育。”他强调：“不管你是中央委员，还是一般党员，不管你是老党员，还是新党员，都要遵守纪律”。“不管是中央委员会，还是支部委员会，都要遵守纪律。一句话，党内不准有不遵守纪律的‘特殊人物’、‘特殊组织’。遵守纪律首先要从自己做起，要与党内一切破坏党纪的倾向作斗争，但尤贵于与自己破坏党纪的倾向作斗争。”
陈云还指出：遵守纪律一定要体现在具体的实际的工作中，要在各种具体情况下遵守。他进一步解释说：我们说要服从真理、服从革命，赞成的人一定很多的；要服从无产阶级、服从，赞成的也不少，再说要服从党中央、服从，也比较容易；但是说要服从支部、服从直接上级，就发生了困难。为什么？因为这种人只能抽象地遵守纪律，不能具体地遵守纪律。具体地服从纪律，就一定要服从支部，服从直接上级，即使上级的人比你弱，你也一定要服从。做不到这一点，我们党就要垮台。因为假如谁都觉得自己本领强，自己意见对，没有一个约束，结果谁都觉得自己本领强，不服从别人，党的统一就完全没有可能了。“一个真正能自觉遵守纪律的好党员，就在于他能在实际行动和日常生活的每个具体问题上表示出自己是坚决地遵守铁的纪律的模范”。遵守纪律的重要，恰恰是在自己意见不被通过的时候，或者是有关自己的问题的时候。
1942年下半年，党中央为了加强东北抗联和地下党的领导，由组织部挑选了177名干部，决定补派到东北去开展群众工作。这个时候的敌后环境变得更为恶劣，愿意主动到敌后去的很少。当组织部找这些人谈话时，除少数表示服从分配外，大部分都以各种理由进行推脱，有的说这次不去下次去，有的以家属有病不能去为由拖延时间。经过做工作，仍有6个人坚决不接受分配。陈云找他们谈了话，严肃地批评了他们所犯的错误，要他们遵守党的决定，并指出他们用各种方式拒绝接受党的决定，不仅是对工作讨价还价的错误，而且还是一种政治上的动摇。他警告他们，党的决议不能全靠自觉，还必须强制执行。最后对这6位坚持不去的干部给予了纪律处分，将他们由正式党员降为候补党员，其中有一个给予了撤消工作的处分。其他多数人以严肃态度接受了分配，中央委员会决定给以表彰，除在党表上登记外，并在全党公布，中央组织部还在1942年10月2日给每位同志写了一封表扬信。
对于违反党的纪律的行为，不管他的地位有多高，资格有多老，陈云都敢于毫不留情地进行抵制与批评。他对王明违反党的组织原则的霸道做法所进行的斗争，就是很好的例子。六届六中全会后，王明回延安任中央统战部部长，兼女子大学校长。那时，有不少要求进步的女青年奔赴延安，投身革命。中央组织部把这些青年大部分介绍到“女大”学习，毕业后分配到各地、各部门，或做妇女工作或做其他工作。开始两期学习结业的学员，都是按照规定的原则，由中组部分配一部分给中央妇委，请他们分配做妇女工作，绝大部分由中组部根据需要情况，分配到党政军各部门及地方党委工作。但是后来这种分配原则行不通了，因为王明决定在“女大”学习结业的所有学员，都由他直接分配。对这种不合理的事，中组部干部科根据原则与“女大”具体负责的同志交涉，无效。他们声称这是王明校长决定的。陈云得知情况后，给王明写了一封信，请他改变决定。但王明坚持己见，声言他是“女大”校长，有权这样做。于是干部科的负责人建议：如果“女大”不改变做法，那就不再介绍女青年去“女大”学习。陈云经过思考后说：“我同意你们提的这个意见和办法，你们再和（李）富春（李时任中央组织部副部长）谈一下，如果他也同意，就照此办理。”李富春也同意这种做法。因此，在随后的日子里，中组部对到延安的女青年就很少介绍去“女大”学习，而直接介绍去陕公、抗大、鲁艺、党校、自然科学院等院校学习。这样，“女大”的学员来源就成了问题。为此，王明亲自到中组部找陈云。王明先是气势汹汹地说：中组部不向“女大”介绍学员是不合理的。当时，王明仍自恃得到共产国际的支持，常以党的当然领袖自居，认为谁也不能违背他的决定。陈云平静地对他说：这事我知道，并为这事给你写过信，说明从党的事业发展考虑，我们各方面都需要大批女干部。你说军事部门不需要吗？他们的机要部门、医务部门、政治工作部门，不是大量需要女干部吗？你能不知道党的宣传部门、组织部门、政府各行政部门都需要大批女干部吗？各省各地的党委都是清一色的“阳性”，好吗？“女大”的学员毕业后，中组部的分配方案是按一定的比例交给中央妇委分配做妇女工作的，此外就根据党政各方面的需要分配，这是从党的事业考虑的分配原则。现在女大毕业生的分配，不能根据党的事业的需要分配，因而中组部不能再介绍女青年到“女大”学习，是完全从党的事业发展考虑的。从形式上看，我们不再向“女大”介绍学员，好像是“不合理”的，但是这种从党的事业角度出发，采取的不得已的不合理，对待你老兄那个违反党的利益、党的原则的不合理，这样才能求得一个比较的、相对的合理。王明听到陈云这一番不软不硬的回答，只得说：那好吧，就按组织部的办法，但是你们分配时一定要给中央妇委一个大的比例。见王明是如此态度，陈云也就直率地说：好，你既已同意，就一言为定，过去对“女大”学员的分配，就是照顾妇委的需要，有一定比例交给他们分配工作的。不过最后我还想向老兄进一言：你在国外太久了，你回来后无论出什么主意，最好先了解一下党的组织原则和各方面的情况，免得和各部门“卡壳”。那么高的威信，他对一切重要的事，也都是多方听取意见，才作出决定的。王明并不想听这些话，很快就告辞了。陈云回到办公桌旁，还在自言自语：无论是谁，在党内不按党的原则办事，搞霸道主义绝对不行！
对普通党员违反党的纪律的行为，陈云也是坚持原则，轻则给以批评教育，重则给予纪律处分，直至开除出党。抗日战争初期，绝大多数到延安的知识青年，经过短暂的培训后，纷纷要求到前线去参加建立抗日根据地的火热斗争，没有被批准的，还要做思想工作。进入相持阶段后，情况不同了。由于日本侵略者逐渐把主要力量用于攻击领导的八路军和新四军，抗日前线的环境变得异常艰苦，有些到延安经过培训后的党员开始不愿到前线去，到敌后根据地了。中央组织部的同志，甚至陈云本人经常要做这部分人的思想工作。绝大多数同志经过做工作后，都能服从分配，到前线去，到敌后根据地去。但也有个别人无论怎么做工作就是不服从分配，刘力功就是一个。
刘力功原是一个没有实际工作经验的新党员，在中央组织部党员训练班培训毕业后，组织上决定分配他到基层工作，他表示不同意，坚持要进马列学院或回老家去工作。这本是他应该享有的权利。但组织部经过反复考虑后，仍然决定派他去基层锻炼，他不同意，并威胁说，如果组织上不同意他的要求，他就退出党的组织。
党组织为了帮助他，先后同他谈了七八次话，陈云也亲自找他谈过话，做他的思想工作，但刘力功还是不干，坚持不去基层工作。党组织考虑，马列学院是党培养高级人才的地方，不能接受刘力功这样的思想意识极端错误的人；如果派他回老家去，只是满足了他个人的家庭观念，于当地的工作非但没有好处，反而会有害。所以无论如何不能满足他的这两个要求。
最后，党组织在反复研究的基础上，决定派刘力功到华北敌后根据地去做基层工作，并告诉他，“个人服从组织”这是党的纪律。这时，刘力功提出了条件。他说，一定要让他到华北去，就要到上层机关工作，到八路军总部工作。陈云听后很生气，他把刘力功找来，对他说：“你非要到上层工作，就在延安山头上开荒去吧！”陈云还警告他说：如果你坚持不服从分配，党组织就要处分你，甚至开除你。
中央党务委员会根据刘力功仍然不服从组织决定的事实，从维护党的纪律的严肃性出发，认为刘力功的行为违反党纪，本人又拒不接收组织上和同志们的批评教育，不愿改正错误，应该坚决开除他的党籍。中央党务委员会将这个议案提交到中央组织部部务会议上进行讨论，作出了开除刘力功党籍的决定，并公布全党。陈云认为刘力功的问题带有典型性，既是个人利益第一，不愿到艰苦环境去，又是要求有条件遵守党的纪律。他紧紧抓住这个典型，组织全党讨论，进行一次活的党性党纪教育。他还专门写了一篇题为《为什么要开除刘力功的党籍》的文章，发表在1939年5月党的机关刊物《解放》上，在全党引起了很大的反响。
在原则问题上毫不让步，但在干部碰到具体问题和困难时，陈云又十分注意爱护他们。在延安时，有一位干部被人错误地指控为托派，被开除了党籍。这个干部向中组部提出申诉，并提供了4个证人，有一个还在国外。陈云要有关部门一一写信去调查，用两个月时间，终于查明这个干部是冤枉的。陈云针对这件事说，解决一个干部的问题，关系到他的政治生命的时候，要很郑重、很谨慎、很细心。用两个月时间挽回一个干部再值得没有了，因为两个月绝对培养不出一个干部来。
对于潘汉年冤案，陈云曾多次提出应重新审查。1979年，他因病要动一个大手术，手术前，为了防止不测，他专门为此事给中央的负责同志写信，希望抓紧复查。此事经陈云的一再过问，终于很快有了结果，潘汉年同志获得了彻底的平凡。十一届三中全会后，由于积极贯彻“两个凡是”方针而犯错误的几位领导人，检讨总过不了关。陈云在一次中央全会上指出：“我不赞成这样对待犯错误的同志扭住不放。这种检讨没有完没有了的情况，我认为不是党的好作风。”由于陈云讲了话，这几位领导人才过了关。
当然，爱护干部不是不讲原则，甚至是对他们的错误进行包庇，不进行必要的批评，不讲原则地所谓爱护，实际上反倒是害了干部。陈云说过：“爱护干部主要是政治上的爱护，干部犯了三分错误，你将他当成十分，这是不对的，但完全不批评纵容错误也不对。如果犯了错误不处罚，这样就不能教育他，也不能教育同志。”陈云对王明错误做法的批评和抵制以及他对刘力功等人错误行为的处理，就既体现了他对干部的爱护，又体现了他对错误行为进行坚决斗争的原则态度。
改革开放后，党的建设面临着新的形势和新的任务。陈云在一次中纪委的全会上指出：“在党内，忽视精神文明建设，忽视思想政治工作，就不可能有好的党风；在社会上，忽视精神文明建设，忽视思想教育，就不可能有好的社会风气。”“不加强思想政治工作，不严格执行党纪、政纪，党风、社会风气就不可能好转。”因此，他指出：纪律检查部门，不应只是对违反党纪的，按照党章党法进行纪律上的处理，而且应该以那些违反党纪的事例，在党内进行政治思想教育工作。党的纪律检查部门，“只是查处违法乱纪的案件不行，更重要的是加强员的党性教育。”“对外开放，不可避免地会有资本主义的腐朽思想和作风的侵入。这对我们社会主义事业，是直接的危害。”他明确提出：“执政党的党风问题是有关党的生死存亡的问题。”他指出：“纪检工作应当研究新情况，适应新情况，党性原则和党的纪律不存在‘松绑’的问题。没有好的党风，改革是搞不好的。不论在地下党时或在执政时期，任何时候都必须坚持党的纪律。”他强调：“社会主义事业不可能是单纯的物质文明建设……社会主义事业也不可能先进行物质文明建设，然后再来进行精神文明建设”。“忽视社会主义精神文明建设，我们的整个事业就可能偏离马克思主义，偏离社会主义道路。”他认为：“社会主义精神文明的建设，关键是执政党要有好的党风。要加强员的素质”。“对严重的经济犯罪分子，我主张严办几个，判刑几个，以至杀几个罪大恶极的，雷厉风行，抓住不放，并且登报，否则党风无法整顿。”
陈云善于倾听不同意见，并很注意保护提不同意见的干部。为了鼓励大家提意见，他总是对同他谈话的干部说：在他面前说话，“左”可以“左”到“左倾机会主义”，右可以右到右倾机会主义；“姜太公在此，百无禁忌”。他说：“一个人说话有时免不了说错，一点错话不说那是不可能的。在党内不怕有人说错话，就怕大家不说话。”“如果员不能进行批评与自我批评，大家见面都是哈哈哈，我看人们就不会参加革命了，也不会愿意当这样的员了。”
陈云指出：我们当然应当做到尽可能不犯或少犯错误，尤其不能犯大的错误。同时他又指出：只要是人就有可能犯错误，犯错误本身并不可怕，可怕的是不能在犯了错误后多做批评和自我批评，不能从所犯的错误中吸取教训，以避免将来犯同样的错误。
陈云强调：执政党多做自我批评更为重要。1939年12月10日，他在出席陕甘宁边区党的第二次代表大会时，说：现在我们和以前不同了，在根据地内是当政的党。现在我们吃得开了，在边区这个地方，可以做官了，区长有，县长也有。我们这里完全是一个当政的。“我着重地说，领导着政权的党、领导着军队的党，自我批评更重要。因为党掌握了政权以后，犯了错误更直接更严重地损害群众利益。党员违反了纪律，特别容易引起群众不满。你有枪，又当权，群众看到了也不敢讲。”
陈云指出：开展批评和自我批评，首先要从领导做起，检查自己有什么缺点，有什么错误。先检查自己，批评自己，不能只说下面不好。如果工作出了毛病，作为领导者，自己应首先承担责任，不能上推下卸，诿过于人。一般说来，看别人的毛病比较容易，看自己的毛病比较难。领导者本来有责任，但不批评自己，光批评别人，这种批评便没有效力，别人是不会接受的。
批评和自我批评十分重要，但如何开展正确的批评和自我批评呢？陈云认为，开展批评和自我批评首先是应该遵守“三原则”和“三要”，即：“要从维护党的利益出发，要坚持原则，要实事求是”；“要采取客观态度，看问题要全面，要看本质，不要只看局部只看现象。”他认为，开展批评，要从维护党的利益出发，错了就是错了，一定要进行批评。但态度要诚恳，要客观看待所犯的错误，不能随心所欲地乱批一通。他要求批评人家错误的时候，要指出人家错误的根源以及纠正方法。批评的目的并不是出气，主要是在于真正帮助人家纠正错误。一般地说，批评有两种态度，第一种是气势汹汹地指责人家；第二种是和颜悦色地说服人家，善意指出犯错误的原因和纠正的办法。只有后一种态度，才能使被批评者心服意满，问题才能真正解决。
在进行批评和自我批评时，还必须坚持党的组织原则，也就是坚持党的民主集中制原则。陈云指出：不经过大家交换意见，是不可能集中的，形式上集中了，也难免出错误。不然愈不能集中，多交换意见，反而容易集中。核心领导只有经过严格执行民主集中制，并在实践中经过考验才能建立起来。民主又必须集中，个人意见不被采纳，不能生气，也不能不尊重集中的决定。每个党员都有在党内发表意见讨论问题的权利。但又有必须服从决定、积极工作的义务。遇到不如意的事和人，就不干工作，或在言论上行动上消极，这是不对的。遵守纪律的重要，恰恰是在自己的意见不被通过的时候，或者有关自己的问题的时候。
开展批评和自我批评必须坚持讲真理，不讲面子，反对自由主义。1945年，在党的七大上，陈云在发言中说：我们要讲真理，不要讲面子。是什么就是什么，应该怎样就怎样。有的时候你愈要讲面子，将来就愈要丢脸。只有你不怕丢脸，撕破了脸皮，诚心诚意地改正错误，那时候也许还有些面子。员参加革命，丢了一切，准备牺牲性命干革命，还计较什么面子？把面子丢开，讲真理，怎样对老百姓有利，怎样对革命有利，就怎样办。他进一步强调说：如果一切从自己面子的角度出发，讨论问题、看问题掺杂个人得失在里边，立场不正，就不会看得很清楚，不会讲真理，结果一定害人害己。
陈云本人就是做自我批评的模范。延安整风运动中，他结合自己在土地革命战争时期经常犯“左”倾错误的教训，虚心向请教，在的建议下，他认真学习了哲学着作，从思想认识的高度剖析、检查了犯错误的根源。1948年4月，他又主动向中央承担了辽东地区土改工作中犯“左”倾错误的责任，认为“土改工作中的错误，主要由我负责，因我是负责指导土改的。”“大跃进”运动中，在对“反冒进”的一再错误批评下，陈云虽然想不通，但为了顾全大局，仍多次作了检讨，直到本人也对错误已有一定认识的情况下，他仍然是在做检讨，始终坚持承认、拥护的领导地位。而且这些检讨都是诚心诚意的，并不是言不由衷式的虚与委蛇。陈云这样做并不是不坚持原则，而是为了顾全大局，这也是党的纪律所要求的，即对党的领导人所犯的错误只能通过正常的、合法的途径来解决。在全党还未认识或一时还无法进行纠正的情况下，只能先服从党的决定，然后在具体的工作中，通过自己的努力，力争使错误的严重程度降到最低点。
陈云始终坚持反对把党内的同志关系庸俗化，他一贯带头抵制请客送礼的不正之风。他给自己立过一个不收礼的规矩，并要求工作人员，凡是有人来送礼，都必须向他汇报，不得擅自收下。他还曾专门向秘书交代：“不收任何人送的礼品，外宾送的礼品都要上交。”1949年进北京后，一次，贸易部的一位负责人送给陈云一块自动手表，说是给他“看看”。因为陈云的事务很忙，这件事就暂时搁下了。两三天后，陈云突然想起来，说：“我已经看好了，让他们把表拿回去吧。”那位负责人只好把表拿回去了。20世纪80年代的一个秋天，一个大军区的两位负责人来到他的住所，向他汇报一次军事演习的情况，并随身带了当地产的两盒葡萄。当他们汇报完起身告辞时，陈云让他们把葡萄拎走。他说，我是中纪委书记，不能收。他们解释说，这值不了几个钱，不是送礼，只是让他尝尝。陈云说，那我吃10棵，叫“十全十美”，剩下的你们带回去。他喜欢听评弹，一次，他让秘书请上海人民广播电台替他录两个评弹段子，说完即拿出两盒空白录音带，要求交给他们。他曾幽默地开玩笑说：“如果主席、总理给我送礼，我就收，因为他俩没有求我的事儿。”他的文选出版以后，秘书请示稿费如何处理，他说全交党费。秘书建议先存起来，将来捐给学校或某项事业。他接受了这一建议，并先后给新成立的北方曲艺学校和希望工程捐了款。
“不接不送，不请不到”是陈云待人接物的座右铭。逢他出差，都不准当地领导前来迎接或欢送。他说：“大家都挺忙，走那形式干嘛！”他的作风是“没事别来，有事说事。如果电话中把事办了，就别跑腿了”。
有一次，陈云到外地视察工作，回来时，当地领导看到陈云连日找人汇报工作，还到处参观考察，很是辛苦，身体本来就不很好，但却又不准提高伙食标准，于是就派人送给他两只老母鸡和一些蔬菜带回北京吃。直到火车快开动时，工作人员才发现了礼物，赶忙根据陈云处理礼品的一贯原则，要来人将礼物带回去。但来人推说，东西不贵，又是当地领导共同商定的，并说保证中央领导同志的身体健康，他们也有责任等。工作人员说服不了来人，只好向陈云做了汇报，并建议是否可以按市场价把东西买下来，否则叫他们拿回去，面子上也说不过去。陈云听后果断地说：不能开这个先例，有第一次，就会有第二次，以后就阻止不住了。还是请他们把东西带回去，要和他们说，他们的心意我领了，但东西我不能收。来人见陈云的态度是这样的坚决，只好将东西带回去了。
还有一次，一位1946年在东北时曾在陈云领导下工作过的军事领导干部，来北京开会，带来一箱苹果让警卫开车送给陈云。陈云身边的工作人员向来人说明了陈云对待礼物的一贯态度，并希望他能将苹果带走。但这位警卫却说，苹果是首长让送给陈云的，现在既然送到了，就算完成了任务，决不能再将苹果带回去。工作人员问他住在什么地方，他也不肯告诉，于是只好请示陈云如何处理。陈云听完汇报后，对工作人员说：1946年在东北时，这位同志在军队工作，很能打仗。全国解放后，我们已很久不见了。不过我不能收他的东西，你要赶快打听他来北京开什么会，住在什么地方，一定要把苹果送给他，并且告诉他，他的心意我领了。工作人员经过多方打听，终于查到了那位领导人的住处，把苹果给送了回去。
在党的建设上，和陈云还十分注意无产阶级革命事业接班人的培养。
对接班人问题的考虑是从很早的时候就开始的。早在1953年底，他就提出在中央领导班子中设一线、二线的设想。这实际上可看作是他最初对接班人问题的思考。然而，这一设想由于高岗、饶漱石阴谋篡夺党和国家更高领导权的活动的干扰而未能实现。但并未因此而放弃对培养接班人问题的重视。如前所述，八大召开前夕，他提出通过设立党的副主席和总书记的办法来起“防风林”的作用，以防备不测事件的发生。大会期间，他在会见南斯拉夫同盟代表团时说：我老了，不能唱主角了，只能跑龙套，而唱戏的则是、周恩来、邓小平等同志。党的八大通过的党章规定在必要时设党的名誉主席。这一职位实际上就是为将来正式退居二线而设立的。
1957年4月，对民主党派负责人和无党派民主人士谈话时，表示要辞去国家主席，以便集中精力研究一些重大问题。
1958年12月，在党的八届六中全会上，再次就辞去国家主席一事作了说明。他说：个人要随时准备有灭亡的可能。辞去国家主席，是为了积极奋斗，而不是临阵脱逃。这件事一定要向群众宣传、解释清楚，以免被动，犯错误。这一想法事实上已涉及到社会主义国家民主制度的建设和保障问题了。事实上，早在1957年底到苏联访问对中国留苏学生作演讲时，就说道：你们是点钟的太阳，世界是我们的，也是你们的，但归根到底是你们的。在与赫鲁晓夫谈话中则说：他准备辞去国家主席的职务，并逐一评价了、周恩来、朱德和邓小平等领导人。1961年对来访的英国元帅蒙哥马利说：我的接班人第一是，第二是邓小平。1964年2月，在接见柬埔寨驻华大使时说：西哈努克亲王正在解决他的继承人问题，这个办法好。我们党早已决定接替我的人，你们知道吗？
不仅在理论上十分重视接班人问题的解决，而且还提出了一系列培养和选拔接班人的具体原则和方法。1964年６月，在十三陵水库召开的中央政治局常委和大区书记会议上正式提出了关于选拔接班人的五个条件，即：（1）要搞马列主义，不要搞修正主义。（2）要为大多数人民谋利益，不为少数人，不为剥削阶级。（3）要能团结大多数人。（4）要有民主作风，不要“一言堂”，不搞家长作风。（5）自己有了错误，要作自我批评。这些思想在《关于赫鲁晓夫的假及其在世界历史上的教训——苏共中央的公开信》中得到了进一步阐述。
但是，在选择和确立接班人问题上也出现过严重的失误，主要是靠个人而不是靠制度来选择和培养接班人，这种做法的主观随意性较大，容易受诸多不确定性因素的影响。正如邓小平指出的那样，“一个领导人，自己选择自己的接班人，是沿用了一种封建主义的做法。”这说明在身上还存在着“家长制这些封建主义性质的东西”。
陈云从选择接班人的教训以及无产阶级革命事业后继有人的战略高度出发，提出了选择和培养接班人的一系列重要观点，主要有：一定要坚持“德才兼备，以德为主”的原则和标准，要使干部队伍实现革命化、知识化、专业化、年轻化；要成千上万地大批培养，要靠集体交接班；培养接班人要有紧迫意识，老干部第一位的事情就是选择和培养接班人，对年轻干部不要求全责备，要扶上马，送一程；接班人的选拔和培养要搞梯队建设，要让年富力强的中青年人在各级机构中当“后排议员”，在工作实践中培养和锻炼他们的能力，等等。陈云本人更是带头身体力行，在党的十三大上和其他老同志一起退出了党的核心领导机构。