1932年4月，日寇让人给汤玉麟送去委任状，希望他能出山为日寇工作，对于日寇让他出任伪满洲参议院副议长的委任状，汤玉麟十分不满：“张作霖是我的拜把子弟兄，你们害死他，我不会去做你们的官”说完，汤玉麟便将日寇的委任状退了回去。
虽然如此，但是日寇方面不愿放弃，希望能通过三顾茅庐的方式，让汤玉麟出山担任位伪职，为了避免汤玉麟走上弯路，东北军元老张作相让赵毅前去传达自己的意思，希望汤玉麟可以守好底线。
1、希望汤玉麟支持张学良。
2、希望汤玉麟不要做汉奸。
3、加强热河地区部队训练，防止日寇南下。
汤玉麟也表示自己不可能为了那点私利，像张景惠一样卖国，所以他不可能去担任日寇伪职。
其实，在日寇发动九一八事变后，便打算拉拢汤玉麟，送还了家人和在东北的金银细软，面对日寇许下的高官厚禄，汤玉麟就一个态度坚决。
后来，日寇在占领锦州后，东三省沦陷，热河成为了日寇必经之路，所以日寇加大了拉拢汤玉麟的力度，面对日寇的拉拢，汤玉麟各种拒绝，就是不愿担任日寇伪职。
在这期间，张学良考虑到热河的重要性，打算让万福麟顶替汤玉麟，然而张作相坚决不同意，因为临阵换将是兵家大忌，他希望张学良好好考虑，除了战略上考虑外，张作相对于汤玉麟这个把兄弟将热河视为自己地盘，所以这时候让万福麟去热河，两部必然发生冲突，如此一来，日寇便可以趁着汤玉麟和万福麟冲突，进攻热河，从而实现自己利益最大化。
为避免这种情况发生，张作相让和汤玉麟关系不错的赵毅去热河探探口风，看看汤玉麟的态度，经过几天相处，赵毅确定了汤玉麟不可能投降日寇，然而他的部队防备松弛，难以应对日寇的突然袭击。
期间，日寇依旧不愿放弃拉拢汤玉麟，继续以高官厚禄的方式，企图渗透进热河，为下一步计划做准备，汤玉麟也第一时间将相关内容告知张学良和南方方面。
南京方面也知道汤玉麟是个墙头草，让他担任北平政务委员会委员，同时让张学良坐镇北平，统一指挥北平、热河、察哈尔一带的防务。
虽然如此，汤玉麟依旧不上心，而是依旧我行我素，平常该怎么办，继续怎么办。
这时候的热河，一些关键岗位都被汤玉麟的家人亲戚把持，除此之外，汤玉麟贩卖鸦片敛财，在他的持续下，热河驻军战斗力低下，压根不是日寇对手。
在了解汤玉麟的情况后，张作相将相关情况汇报给张学良，随后张学良派了几个旅到热河，加强防务。
不久后，日寇进攻山海关，并且成功突破山海关防线 ，局势进一步恶化，局势的恶化，没有引起汤玉麟的重视，而是继续逍遥自在，压根不理会热河的防务。
1933年2月，日寇已经做好进攻热河的准备，随时都会发起大规模进攻，热河各界对于汤玉麟能否抵挡日寇进攻抱有巨大疑问，在这个环境下，宋子文、杨杰、张学良等人视察北方防务。
随后双方经过一番商讨后，布置了作战任务，张作相负责热河防务，汤玉麟担任副指挥，在看到自己拜把子兄弟担任总指挥后，汤玉麟压根不买账，而是拒绝了张作相的作战方式，同时表示这啥都没有，这场仗压根没办法打，另外汤玉麟也不愿支付部下的军衔，这个举动对热河驻军的战斗力造成了巨大的影响力。
3月，日寇分兵三路对热河发动进攻，热河驻军仅仅抵抗几个小时后便停止抵抗，不久后热河迅速被日寇占领。
随后，汤玉麟退出了军界，虽然汤玉麟退出了军界，但是他的旧部耿继周和李芳廷继续率领所部抗击日寇，并给予日寇沉重一击。
期间日寇多次拉拢汤玉麟，希望他可以出任伪职，面对日寇和汪伪的拉拢，汤玉麟就一个态度拒绝，之后汤玉麟度过了相对安宁一段岁月。
解放战争时为了安全，汤玉麟曾搬到花园路3号居住。1949年2月病死于天津，终年78岁。
汤玉麟虽然做过土匪，担任过奉军将领，但是他在国家大义面前，还是有自己的底线，那就是坚决不卖国，此举让人为之动容。
