同年8月，因驻扎长春的新六军大肆劫收物资，激起民怨，蒋介石下令将新六军与驻扎鞍山、海城的新一军主力相互对调，任命孙立人为第四绥靖区副司令长官兼长春警备司令部司令，所部三个师与第六十军一部分别驻守长春、永吉以北和松花江以南的主要城市和军事要点，防止北满民主联军过江。
1947年1月，林彪率领12个师越过松花江，发动“一下江南”攻势。在其塔木战斗中，孙立人被林彪围点打援一口气吃掉两个团，气得他大骂杜聿明指挥无方，将他的兵力到处分散，致使林彪得以各个击破。2月，在林彪“二下江南”攻势中，孙立人又丢了一个整团。孙立人和他的新一军自出关后，再也没有什么光辉的传奇了。
对国民党军在东北失利的原因和责任，杜聿明和孙立人之间自然少不了争执，两人相互指责，关系日趋恶劣。杜聿明派参谋长专程飞往南京到蒋介石面前状告孙立人，孙立人也将战况呈报给蒋介石并提出自己的看法。但蒋介石一贯偏袒宠信自己的嫡系将领杜聿明，电令孙立人遵从杜聿明的作战指挥，这让孙立人备感失望，并提交辞呈要求辞去所兼职务。蒋介石历来排斥非黄埔出身的将领，结果将他的本兼各职全部拿走，借机夺了他的兵权，将他的新一军军长一职交给了黄埔出身的潘裕昆。而调他为东北保安司令长官部副司令长官，明升暗降，成了空头司令长官，整天呆在沈阳铁路宾馆里，无所事事。到1948年10月，孙立人苦心经营数年的新一军在辽西会战中被林彪的东北野战军歼灭。