腾冲城内的日军已成困兽。但我军官兵预料更残酷的战事才刚开篇，因为抗战7年以来，我军从未从日军手中夺取一座城池。
自8月2日开始，第14航空队战机频频出动，以500磅炸弹轰炸腾冲城垣。当日16时，第116师第348团在东南城角我空军炸开的十多米宽豁口处，击退敌之猛烈反扑，其第9连42名官兵率先登城成功，与日军在城墙上僵持。
17时30分，第36师第107团第2连连长刘恩宪率1、2排在西南角瓦砾中攀上城垣，经奋战攻占敌堡垒3座。因城墙上敌火网浓密，连长刘恩宪当即阵亡，其余33名官兵亦相继伤亡；该连第3排因敌火封锁，未能继续登城。
（负伤的中国官兵）
由于腾冲城北为地势开阔、水网密布的稻田，难以接近城垣，我军除留下少量警戒部队外，主力均转向城墙西、南、东三面，以南城墙为主攻方向，按南城门至北城门的中轴线分界，以54军攻击西城区，53军攻击东城区。
霍揆彰通令部队：“先入城占领据点，待于立稳脚跟而继攻克城墙者，总部赏洋十万元，并制赠荣誉旗一面；又有功勋官长，准报请军委会核奖或请颁发勋章”。
此时，预2师部队在来凤山上休整，担任预备队。4团9连机枪手陆朝茂站在山上，看着空军向城墙投弹之后，步兵在一片喊杀声中，潮水般冲向城墙和城外的工事，但是每次都被日军密集的火网挡回来。
“我们的装备不算好，没有什么重武器，要么靠近城墙安放炸药，要么等着飞机炸才能打开城墙。”
但以坚硬巨石被覆的城墙，令巨型炸弹也遇到了难题。据美军飞行员克利福德·隆回忆：
8月3日，在得知我们扔下的炸弹被坚硬的城墙巨石反弹到离城墙几十米外爆炸而无法炸塌城墙时，地面的勤务人员想出了一个办法--他们在炸弹上绑上磨尖的钢条，犹如给炸弹安上了“刺刀”。这样，当我们在飞机上扔下炸弹时，“刺刀”就能牢牢“钉”在巨石上，准确地炸毁城墙。后来，我清楚地看到我扔下的炸弹把南城墙炸开了一个缺口……
至8月5日，西、南、东三面城墙先后被炸开13处豁口（后腾冲城垣共被炸开豁口19处）。但日军据守残破城墙拼死不退，我军攻城部队前仆后继猛攻，战况至为惨烈。据日军战史载：“8月6日19时（日本时间，当地时间为17时），美军飞机32架来袭，地面之中国军同时开始猛烈炮击，向南门及西南角攻来。凄惨的近战在狭窄的地区执拗地反复着。中国军可以反复攻击，而守兵则无力更换。随着伤亡的增加，反击力量急剧下降。”
8月13日，腾冲战局发生了一个重大变化，却不为我及时掌握。当日，美军出动18架战机对城中心大堡垒群俯冲投弹，在东城门洞中指挥作战的日军守备队长藏重康美大佐及其手下共32名官兵，均被炸塌的城门掩埋毙命。被日军士兵背地里戏称为“坐洞联队长”的藏重，与他的绰号一起永远埋在了洞里。
藏重死后，接替其职责的本应是第2大队长日隗太郎少佐，但由于日隗在高黎贡山战斗中被炸掉了一条腿而无法接任，于是第33军司令部指定调到联队部的第9中队长太田正人大尉担任守备队长，指挥后续作战。据日军战史，由于第148联队军旗得到了很好的“供奉”，使之在轰炸中幸运地没有发生意外。但因旗手北原中尉战死，遂指定宫原少尉继任联队旗手。
作战初期即损失最高指挥官和骨干军官，日军死硬顽抗到底的意志并未稍减。据日军战史，太田大尉负责指挥后，感到在我军以优势火力压制打击下艰难防御非常憋气，发电请求上峰允许自己率残部突出城外，向我军发起主动攻击。这样固然痛快，但无疑是加快了送死，军司令部仍电令其负隅死守，以拖延时日。但援军迟迟无法到来，令腾冲日军感到绝望，士气逐渐低落。
虽然第36师、第116师主力已在城垣上占据立足点，但此时城外日军仍占据着东北角的拐角楼村、西门外的英国领事馆、东门外的东方医院等据点，我攻击力量不敷使用。
8月15日，休整两周后的预2师以一部扼守来凤山，主力加入攻城战斗，攻占南门以西城墙两处缺口，肃清城墙上残敌。
16日，第198师以593团在城北拐角楼亘饮马水河之线与敌对峙，主力转向城南，对南城楼及以西城墙之敌攻击。
8月18日14时，美军飞机轰炸了英国领事馆，以火箭弹击中房顶引起熊熊大火，很快将这座壮观的建筑烧得只剩下四面的火山石墙壁。第36师106团乘势迫近围墙向敌攻击，激战两日后彻底肃清残敌。19日，第116师346团亦攻占东门外的东方医院。
20日16时，预2师第4、5团各一部率先下城，开始进入巷战。日军两年来在腾冲城内修筑了无数明碉暗堡，在很多房屋墙根挖掘了暗道彼此沟通，设置了火力点，构成交叉火网。我攻击部队沿街巷推进，处处遭敌狙杀。不得已放弃通道，转入残破的民居，与日军隔墙对峙，伺机以美式火箭筒、手榴弹等破墙推进，每日战斗进程仅以米计。
据日本战史载，当日，太田大尉向第33军司令部发电，云：
“……官兵经两个多月之战斗，今仍遵照藏重部队长之遗训，继续顽强奋战中，悉请放心。目前之状况已乏善可陈，未能详细报告甚感遗憾。兵团主力方面之战况如何？请不必顾虑卑职等，尚祈继续战斗。只是迫切渴望有手榴弹，若有可能，烦请强行补给为祷。”但吉野孝公说，太田还曾向56师团发电，大意为“城内被围得死死的，无法再忍受士兵一个个被杀掉，请允许我们冲出城，开展游击战……”
（侵入云南的日寇）
但师团方面却态度强硬，仍下令死守。这封电报后来也没有刊入战史。21日，腾冲日军兵力已减至640人，其中含伤员100余人。
8月25日，霍揆彰电令此前在龙川江之线担任警戒的第130师，以两个营仍担负原任务，其余均开赴腾冲东门外，加入攻城作战。此后，第54军与第53军以南门亘北门中轴线为界，在西城、东城展开竞赛式巷战。其间战斗之错综复杂，难以详述，仅举一例：
30日，116师从城东进入。348团攻打到文昌宫以北时，在一座大钟前再也无法前进。这是一口铸造于公元1450年的铜钟，高1.9米，口径1.4米，钟身厚达2厘米。在大钟的腰身部位，一挺机枪从一个奇怪的孔洞里探了出来，原来有一名日军躲藏在倒扣的大钟里。至今人们也不清楚，日本人是怎样凿穿了厚如坦克装甲般的铜壁。
348团团长毛芝荃命令以重机枪、手榴弹集中瞄准大钟，但一顿狂轰滥炸后，却不见大钟被炸开。直到4天以后，大钟里的枪声停止了，几十名士兵冲上去掀翻大钟，才发现里面的日本兵弹尽粮绝，而人则是被震得耳鼻流血而毙命的。
由于部队推进太慢，霍揆彰于当日发出严电，云：
……目下困据城内之敌，能作战者不过三百余人，我围攻部队之兵力与火力依最低限度计算，亦在十余倍以上。纵令残敌如何顽强，工事如何坚固，安有不能一举歼灭之理？而时日稽延、大功未成者，全在我各级指挥官无必胜之信念与必死之决心耳。言念及此，能无惭悚？
在如此刺激自尊心的电报面前，指挥官们只能沉默无言、咬牙发愤继续严督部队攻击。终于，9月7日，中路第198师率先扫清西城残敌抵达北城墙下，又奉命折向东部，与推进较缓的第53军合力围歼最后的日军。在翻阅战史时，常常可以看到同在一个集团军序列中，“嫡系”54军对“杂牌”53军的优越感。但按日军部署，21日南部正面为300人，西城为70人，东城为120人，太田大尉掌握150人居中，可见东城力量明显强于西城。
54军有3个师，而53军最初仅有一个116师作战，130师很晚才开来。以此而观，似不应对于这支“九一八”后即丧失家园的东北子弟兵过于苛责。
9月9日，预备第2师第6团在城北财神庙的一处民居内，俘虏了十余名日军慰安妇和汉奸，其中包括腾冲日军行政班本部长田岛寿嗣的老婆蔡兰惠，及田岛的台湾籍翻译官白炳璜。因日军内部怀疑田岛通过蔡兰惠泄露了军事秘密，日军第56师团在战前将田岛从腾冲调至芒市，将其与蔡兰惠分开。
蔡兰惠此时怀孕临产，于被俘前在一处战壕内分娩一男婴，由白炳璜以刺刀割断脐带为其接生。被俘后的白炳璜向我军表示要立功赎罪，供述次日上午将有日军飞机前来空投助战。据此，我军立即与第14航空队协调，准备迎击。
10日，日军13架飞机（战斗机8架，轰炸机3驾，运输机2驾）果然飞临腾冲上空，事先预伏的美军P-38战机8架忽然自高处钻出云端，向日军飞机猛烈攻击。激战十余分钟后，即将6架日机击落，我军大获全胜。
11日，我军继续缩小包围圈，将残余的70余名日军压迫在城东北李家巷附近的几处民宅内。在距火线仅80米的后方，太田大尉下令烧毁军旗。12日清晨，又向师团发出最后的战报，表示要在藏重联队长阵亡一个月忌日--13日，实施最后的攻击，“一扫怒江作战以来的郁愤”，并请师团长谅察“官兵无法忍受敌在炮火绝对压制下旁若无人之心情”。随后，烧毁密码本，破坏无线电机。
13日，我预2师第5团团长李颐爬上一段竹梯，侦察墙内院落内的敌情，被日军狙击手开枪击中头部牺牲。李颐团长年仅而立，死后被追晋少将，为攻城作战中我军阵亡的最高指挥官。
几天后，和顺少年尹文和家堂屋右首房间住进一位二十多岁的女子，不时地哭喊着：“还我的人来！”
后来他才知道，她就是李团长的新婚夫人。5团副官吴堪捧着两罐咸姜和辣酱，站在一边默默流泪，这些东西是几天前夫人在漕涧托他带给团长的，只差一天团长却未能吃到。
当日夜，大雨如注。日军在李家巷、东城墙下杀害了部分慰安妇后，太田大尉下令分散突围。
14日凌晨，太田率日军一部发起“自杀式攻击”，被我歼灭于腾冲城东北角一处院落（原腾冲富商李佩宅）；一部从东南城墙的一处豁口突出城外，后面跟着二三十名慰安妇，却遭到饮马水河残余日军的射击，两股日军自相残杀。
其中，18名慰安妇向我军拦截部队求救，其余日军向东南、西北方向分散逃窜，被我派出的追击部队零星歼灭于各处。
（战后腾冲城的残垣）
以参与追歼残敌的116师、预2师战报统计，最后突围的日军居然多达百余人，但能逃出活下来的为数寥寥。因此，战后148联队老兵未组织起“战友会”，未能像松山日军那样留下较多的战史纪录。原本隶属56师团卫生队的吉野孝公，在逃亡途中被我军捕获，并意外地被带到了我军一位少将面前。这位将军的一番话，让吉野铭记了一辈子：
“在腾冲的战斗中，我失去了二百多名少尉以上军官，为此还受到了蒋总统严厉的斥责。战争对人类来说，是一件非常痛苦和不幸的事。这场战争，估计不久就要结束。你们和我们同是亚细亚同胞，然而，彼此之间却进行了这么长时间的不幸战争。这场战争必须尽早结束……你来到这儿以后，绝不允许自杀。从现在起，在你们的肩上已承担着重大的使命和责任。战争一结束，你们就要成为重建日本的支柱。眼下的日本更需要你们这样的年轻人。中日两国也须尽早结束战争状态，为东亚、为全世界的和平，为了各民族的文化建设，有着聪明才智的两国人民携手合作的必要时刻已经到来。”
这位少将是谁？笔者一直未能考证确认，但相信吉野所言不虚。
腾冲之役，我军全歼日军腾越守备队2100余人（据日军遗骨分布资料，腾冲城内及来凤山、蜚凤山、宝峰山共弃尸1800具--笔者），俘虏53名（含慰安妇）。我军伤亡官兵18000余人，其中阵亡约9000人。
战后，云南省政府在腾冲来凤山北麓小团坡修建了大型阵亡将士公墓，谓之“国殇墓园”。“文革”中墓园惨遭毁坏，上世纪80年代予以重修，恢复了其中3000多名阵亡将士姓名碑。
1996年，国务院公布为全国重点文物保护单位；2005年，中共中央宣传部公布为全国爱国主义教育示范基地。
