紧接着毛主席就出其不意地宣布：凡是写信要求上战场的，全部留下当教员，没有写过请战信的，才可以分配到前线部队去。

张爱萍一不小心“弄巧成拙”，被留在了抗日军政大学当教员没去成前线，吃了个大“亏”。从此再不敢胡乱请战，老老实实的在抗大当教员，自己读了不少军事理论书籍的同时，也为抗大培养了不少人才。

中央领导看他的性子沉了下来，这决定调他去上海干另一个“老本行”——搞地下工作。

张爱萍虽然对上海挺熟悉，也有过搞地下工作的经验，可他心心念念的始终是正面战场，不愿意去搞地下工作。为这，毛主席又亲自找他谈话，并答应让他自己挑几个人一起去，张爱萍才表示“坚决完成任务”。

张爱萍从延安出发途径上海时途径西安，当时周恩来正跟老蒋进行国共合作抗日的谈判，红军主力被改编为国民革命军第八路军。张爱萍因此受总部要求，换上了新军装，还被授予了上校军衔。

不久之后淞沪会战爆发，上海形势吃紧，张爱萍到达上海之后，就立刻开始着手开办游击培训班，并根据上海的地形特地制定了游击方案。

1937年11月，上海沦陷。当时担任省军委书记的张爱萍，对跟他搭档的浙江省委书记刘晓说：“是不是先派吴仲超一人到浙江，我仍撤到上海郊区组织游击战？”

但当时刘晓接到中央的命令，是让他和张爱萍、吴仲超等人一起去南京接受新任务，他当然没法同意张爱萍的提议。张爱萍只能跟着刘晓、吴仲超等人一起去了南京。

等他们到了南京的时候，南京城内已经一片混乱，不少国民党部队不战而逃，留下了很多枪支弹药。

张爱萍看到那些被遗弃的枪支弹药，眼里简直要冒火，无论如何也不肯再走了。

他对随行的陈家康和吴仲超说：“把这些枪收集起来我们打游击！老陈辛苦一趟去武汉，将这里的现状和我们的设想，向周恩来和中共代表团汇报并请示。”

张爱萍坚持如此，谁劝都没有用，大家只好按他的说的，吴仲超留下跟他一起收集枪支弹药准备打游击，陈家康去武汉向周恩来和中国代表团报告情况。

陈家康走后，张爱萍兴致勃勃地和吴仲超开始收集枪支弹药，布置人手准备打游击。可不久之后陈家康就从武汉打来电话，转达了中共代表团严令他们撤离的命令，不许讨价还价。

张爱萍浙江的“游击梦”彻底破碎，只好服从命令去了武汉。