孔祥熙1880年出生于山西太谷，其父亲是一个教书先生。9岁的时候，孔祥熙患上腮腺炎，差点丧命。当时太谷正好有一教会医院，孔祥熙接受其治疗后得以痊愈，于是此后进入教会所创办的华美公学读书，毕业后又去了美国华北公理会开设的潞河书院读书。
1900年，20岁孔祥熙回家休假，正赶上义和团运动爆发。时任陕西巡抚的毓贤是个强硬的“反洋派”，他支持义和团在山西焚烧杀戮洋人，太谷县受到波及，孔祥熙一家收容传教士，助其脱险。1905年，孔祥熙赴美留学，先后就读于柏林学院和耶鲁大学，获得硕士学位。
毕业之后，孔祥熙回到老家，在教会的协助下创办了铭贤学堂，自任校长。很快，辛亥革命就爆发了，阎锡山在太原起义，孔祥熙组织太谷商人和学生、民团维护地方秩序，被推举为“山西中路民军总司令”，这算是他涉足政治的开始。
孔祥熙在办教育、搞政治的同时，还在经商。1912年，孔祥熙获得了英国“亚细亚壳牌火油公司”在山西的独家代理权，简单来说就是卖煤油。当时山西人大多数还在使用灯油，为了让大家使用煤油，孔祥熙别出心裁地提出“买煤油，送煤油灯”的优惠政策，一举打响了自己的品牌，为此赚得盆满钵满。
1913年，孙中山发起二次革命，孔祥熙应邀前往日本，为中华革命党筹集经费。在此期间，孔祥熙结识了孙中山的英文秘书宋霭龄，并很快和她结婚。
1915年，孔祥熙回到了山西，继续经商、办教育、从政，被当时的山西督军阎锡山聘为参议，之后又回到革命的中心广州，为国民政府担任广东省财政厅长，负责为北伐军安稳后方财务，后来上北上上海，为蒋介石拉拢各方势力，担任南京国民政府工商部部长、实业部部长。
在此期间，孔祥熙干了一件大事，就是“认祖归宗”。当时孔祥熙路过山东济南，结识了孔子后人孔祥勉，便请他代查族谱。结果这一查，发现孔祥熙也是孔子后人，祖上是明末迁居山西的，按照族谱属于孔氏“六十户”中的“纸坊户”，是孔老夫子的75代孙。孔祥熙得知消息非常高兴，把一个德国设计的青岛电话的机械图送给了孔祥勉作为礼物。此后，孔祥熙就以孔子75世孙的身份示人。
这个充满噱头的身份给了孔祥熙很大的好处，比如1937年，孔祥熙以国民政府特使的身份参加英王乔治六世的加冕仪式，当时英国的报纸听说孔祥熙的身世大为震惊，《泰晤士报》画了一幅漫画，上有一棵大树，一个小蘑菇，旁边有文字说明：和风雨绵延的孔子家族相比，英国王室就像一颗小蘑菇。孔子大概是公元前551年出生的，那个时候，英国人的先祖还是未被发现的蛮荒岛民。
1933年，孔祥熙就任中央银行总裁，并在宋子文辞职后接任国民政府财政部长，自此成为了把握民国经济命脉的头号人物。相比宋子文的西方财经观念，孔祥熙对于现代财经没太多思考，但孔的处世态度则较为圆滑，不像宋子文那样自负傲慢，更为蒋介石所喜。所以，孔祥熙从1933年11月就任财长，到1944年卸任，在这个职务上足足干了11。宋子文虽两度出任财政，但任期加起来都没孔祥熙长，后来他就“转行”当外交部长、代理行政院长去了。
1967年孔祥熙死后，蒋介石曾撰写《孔庸之先生事略》，夸赞孔祥熙在经济工作上的贡献，说他上任之初，政府经济入不敷出，而在他卸任之后，国库里已经有了美金十亿以上，“可谓中国财政有史以来唯一辉煌之政绩”，还盛赞他“自北伐剿共以至抗战胜利为止之二十年中，不辞劳怨，不辩枉屈，而一心竭智尽瘁，报效党国……”
但是，这些不过是政治辞令，从1927年南京政府建立到1944年，经过十数年的发展，国库里存款十亿美金并不是什么值得过分夸耀的事情。1927年到1937年是近代以来国民经济发展的“黄金十年”，国库存款十亿美金的功劳不能全算到孔祥熙一人头上。
事实上，蒋介石最清楚孔祥熙的贪污情况，在日记里也没少对他破口大骂。1944年，孔祥熙在发行美金公债的过程中中饱私囊，用20元国币的低价收购市值250元国币的美元债券，足足买了5000多万国币，事情败露后被傅斯年得知，向孔祥熙猛烈开炮，孔祥熙最后被免去财政部长职务。蒋介石当时就在日记中里痛骂孔祥熙，称他不配做教徒，“贪劣不可救药”，“无可理喻”，“不可与之再共国事”，“可耻之至”，“不能为党国与革命前途着想，而徒为本身毁誉与名位是图”……
1948年底，蒋经国上海“打虎”，也是因为查到了孔家的扬子公司，引起全国公愤，最后社会上把蒋氏父子连带着痛骂。当时蒋介石在日记中写道：党报社论，亦攻讦我父子，无所顾忌，此全为孔令侃父子所累，人心动摇，怨恨，未有如今日之甚者……本日为孔庸之事及社会对宋、孔豪门资本之攻讦，几乎成为全国一致之目标……
1944年，孔祥熙辞去财政部长一职后，又于1945年再辞去行政院副院长及中央银行总裁的职务，此后前往美国定居。据蒋介石的机要秘书周洪涛回忆，1962年，孔祥熙曾短暂回台居住，真实目的是安排长子孔令侃担任“财政部长”，但未能成功。
1967年8月15日，孔祥熙在纽约突发心脏病去世，终年87岁。
