1927年4月15日凌晨，国民党广东当局下令军警和其他武装开始在广州进行“清党”大搜捕。萧楚女、刘尔崧、熊雄、邓培、李森、何耀全、张瑞成、李亦愚、毕磊、谭其镜、杨其纲、麻植、熊锐、邹师贞等100多位著名共产党人英勇牺牲。

仅在蒋介石的老家浙江，至1927年7月15日，杭州、宁波两地被捕的共产党人、革命群众及国民党左派就有400余人，其中117人被“清党委员会”残杀。至这年底，全浙江有1805人被捕，其中932人被杀。在另一些省份，更是有过之无不及。在农民运动中遭到打击的豪绅们这时也纷纷反戈一击，在地方上积极捕杀共.产.党人、农.运首领。

清党运动迅速朝着蔡元培始料不及的方式和规模发展。

清党之初，浙江清党委员会枪杀二十余名共.产.党人和革命群众。

蔡元培知道这件事后，很是痛心疾首，他提出了严厉批评：“我们不能随便杀人！昨天那样办，太荒唐！太草率！太不好了！此后必须谨慎注意。”

作为清党的最初力推者，他提出清党务必执行的三原则：抓人必须调查清楚；定罪必须证据确实才可判决；杀人必须其人罪大恶极，提交清党委会员讨论决定后才可执行。

为劝阻滥杀，蔡元培在1928年前后写下《追怀不嗜杀人的总理》一文。

言道：“总理致力革命四十年，不但政敌甚多，就是始信而终叛的人也不少；然而总理最反对暗杀，一切均以堂堂正正之革命军行之。军行时自然不能没有死伤的人，然这是不得已而杀人，不是嗜杀。以汤芗铭的反复，并不念他的旧恶；以陈炯明的叛变，还许他们悔过效力；其他类似的人，从没有宣布过死刑。总理的不嗜杀人，可以公认了。”

但是，政治斗争的残酷，远非蔡元培所能预见和主导。这时的蒋介石等这些国民党内蔡元培的“老同志”，早把总理的风格抛到了脑后，在权力争夺、残酷打击异己的道路上愈行愈远，蔡元培的规劝早已被这些人当成了耳边风。

在清党期间，蔡元培曾亲自出面营救了诸多可能遭捕杀的共产党人和革命青年，如帮助被列入清党黑名单的朱宜权等出走，保释被捕入狱的进步青年史良、郑观松。

1928年1月，蔡元培曾亲自致电武昌卫戍司令胡宗铎，要求他释放被捕的教育界人士。

言道：“闻汉口第二中学学生颇有附和共.产.党者，因而连及徐校长昌期亦被监禁。但徐君实无共.党嫌疑，如蒙早日开释，无任感荷。”

现在，力主清党的人却一再为被清的对象说情、提供保护、援助。

其实，蔡元培和中共的很多领袖之间不仅没有丝毫恩怨，而且私交还不错。陈独秀、李大钊这两位中国共产党的创始人，正是他任北大校长期间亲自聘请的优秀人才。

就在清党开始之时，李大钊被奉系军阀张作霖处死，蔡元培带头募捐，帮烈士的长子李葆华去日本留学。

他和陈独秀的关系，更不用说了。两人以前就在一起共谋反清、制造炸弹。陈独秀后来两次被捕，蔡元培都出手相救。

以至于当蔡元培去世以后，陈独秀十分悲伤，在给友人的信中说：“弟前在金陵狱中，多承蔡先生照拂，公乃先我而死，弟之心情上无数伤痕中又增一伤痕矣!”

做为学者和政客，蔡元培与蒋介石毕竟有着本质的不同。

蔡元培的诉求是民主和法治，而蒋介石的目标则是权力。蔡元培虽然坚定地力主清党，但他主张用温和、法治的手段完成这项使命，蒋介石等人则毫不心慈手软，掀起了一场极为残酷的腥风血雨。

鲁迅后来说，“其实像蔡先生，也还只是一般地赞成进步，并不反对共产党而已。到底共产党革命是怎么一回事，他就不甚了然。他甚至于悲叹地说，国民党为了想消灭政治上的敌对者，连民族的存亡都可以不顾，这是他所始料不及的。可知他同情革命者，也不过为了民族而已”。