在历史上，李克农和康生有着颇深的渊源，或者说，李克农曾长期是康生的下级。
我们知道，1929年，李克农化名打入上海无线电管理局，得到了特务头子徐恩曾的信任，后来，顾顺章叛变，钱壮飞获取到的重要情报就是经过李克农的手传递出来的。
在这段潜伏时期，李克农都是在中央特科的领导下工作的，而康生当时正是中央特科的重要领导人。
但是在此之后，康生跟着王明去了苏联，基本上离开了情报保卫部门，而李克农去了中央苏区，并继续负责敌情侦察和保卫中共中央机关安全的工作，担任红一方面军政治保卫局局长等职。
全面抗战爆发后，康生回到了延安，并在1939年2月被任命为新成立的中央社会部部长，兼中央情报部部长。这意味着康生取代了之前的邓发，重回情报保卫工作主持工作。
1941年皖南事变后，李克农从南方撤回延安，担任中央社会部副部长，后又兼任中央情报部副部长，成了康生的副手。这是两人继中央特科之后的再一次合作。
但是，这两人在性格和品格上差异都很大，他们之间的合作并不愉快。曾任中央书记处办公室主任的师哲晚年在回忆录《谷与峰》第十章《我所了解的康生》中有过这样一段回忆：
他（指康生）在我面前表示很希望我到社会部去工作，说副部长“李克农活不久了”，但在李克农面前不知道又说了什么，使李在很长时间内对我耿耿于怀，却无法交换意见。
这一时期的康生，对李克农已经心怀不满，但还未彻底发作，只能耍一下挑拨离间的手段。但到了1948年，康生对李克农的嫉妒和怨恨彻底爆发，这一年，李克农正式取代康生，成为中央社会部部长。
康生为什么会老部下李克农被取代呢？大概说来有两件事：一，康生在抢救运动中肆意妄为，伤害了很多同志，受到了多方指责，七大之后，他就开始失势了；二，康生1946年到山东后，所推行的政策存在严重错误，违反了中央的精神，受到毛主席和党内同志的批评。
正因如此，康生在建国之后就长期称病不出，蛰伏了数年之久。直到1956年八大召开，康生觉得自己重新出山的机会到了，他派夫人曹轶欧四处活动，搞到了一张列席。
但是，在八大上，他只是入选政治局候补委员。为什么说“只是”？因为他在七大就是政治局委员了，这一次他的排名从政治局的第7位降到了22位。
康生突然病愈，组织上一时间很难给他找到适合的岗位，就决定暂时由中宣部长陆定一安排他的工作。陆定一也是候补委员，排名还领先康生，但出于对同志的爱护和谦让，每次出去他都让康生走在自己前面，康生却以此来抬高自己的身价。
康生在这以前，担任过文教组副组长、教育工作委员会副主任、《毛选》编委会副主任、理论小组组织等职，还在中苏论战期间主持了《九评苏共》的起草工作，主要就是负责理论工作的。
当时的李克农，是中央调查部部长，在中办杨尚昆和中央书记处邓小平的直接领导下工作。康生急切地想重新回到这个领域，但是一直不得其法。1962年，李克农在北京病逝，1966年，小平同志二落，康生于是开始分管中央调查部的工作。此后，他污蔑贺龙，制造“61人叛徒集团案”等等，制造了大量冤案。
此时李克农已经去世多年，但康生仍对他进行了多次诬陷和攻击。据李克农之子李力回忆：“父亲所在的单位，机密性强，66年后本应受到一定的保护，但是康生亲自插手，使一些多年建立起来的情报关系遭到破坏。运动开始，我们与一些老同志就很担忧，虽然父亲几年前去世，但是康生心狠手辣，善于记仇，能不能放过父亲？”
在这之后，康生就公然说出了：“李克农死了也可以炮轰，也要批判！”并且喊出：“打倒死人李克农！”的口号。最终，在毛主席和周总理的干预下，此事才没有继续发展。
李力回忆，当时就有一些老干部说：李克农若非早逝，落到康生手里肯定没有好结局。李力说以父亲的性格和身体，早逝也未尝不是一种“不幸中的万幸”。
