“送儿江尾去江沱，况复西行瘴病多，年少不知行役苦，旗亭访古听蛮歌。且把西来异术传，且将叆叇换蛮烟，待得茱萸栽遍后，淮南鸡犬亦成仙。”
“黄浦江头一鬓皤，仰颜西望泪如何，将何遣日凭书卷，对雪犹心咏絮娥。崎岖病臂谢轮蹄，(注1)绎帷空将姓名题，大好山川劳梦寐，醒来诞沫润玻璃。”
“河湟未复不胜愁，又报将输十六州，无力戎行心有刃，即时飞斩佞人头。（注2）一响安穷不送穷，还栽盆草引东风，东风自向西行去，合遇青翎半路中。”（注3）
他送走了子女，孑然一身，去拜谒双亲之墓。因他崇爱梅花傲霜斗雪，“繁花敢向雪中出，一树独占天下春”，遂将洁白和红艳的梅花遍栽于冢墓四周，以寄哀思和永保气节之志。
这时的上海，通货膨胀，货币极度贬值。马叙伦仅以鬻字和撰写文章的微薄收入维持生活，十分贫困。每用几分钱，都要周密斟酌。他常到菜市场购买收摊货回家摘捡，自己劈柴引火，餐桌上常常只一碗廉价的盐水焖蚕豆。他患有胃病，饭莱不适，日渐消瘦和苍老。
一九三八年一月，南京失守。他早年寄养在钱袜陵教授夫妇膝下的女儿钱炳奎已十七岁，不幸，养父已故，此时随养母逃难至苏北，又经运河渡长江，投奔生父马叙伦。
女儿多年住在南京，又是钱家宠爱的独女，一直过着无忧无虑的生活。此时国难家破，又见生父如此清苦，她十分痛惜，愁绪满怀，写了一首悲凉的诗，经马叙伦修改后，为：“玄武湖畔柳拂舟，管弦悠扬笑声稠；胡茄吹得钗裙散，月做凄凉柳织愁。”马叙伦又亲赋一首，赠与女儿：“大题悠悠一旦醒，海鱼吹浪九州腥；登高强自翰山色，西北西南一带青。”（注4）启发女儿在困难时，要看到民族的希望，和担负起青年的历史重任。在他的教导和影响下，女儿进步很快，克勤克俭，努力学习，并参加抗日活动。
钱炳奎在高中毕业前夕，因加入群众性抗日组织，被日伪登报点名，限令自首。她欲避往外地，但养母心爱不舍，遂弃此念。后承校长帮助，允许更名，以蔽敌伪。钱炳奎本想与父一致同取邹姓，但怕伤养母之心，遂向父亲商请。马叙伦给改名为钱玄，说：“玄者无此人之意。”他对敌戏谑以及诙谐达观的态度，减轻了女儿的精神负担，增长了斗争的勇气。上大学后，她毅然选择了工读的艰苦道路。
两家人的生活担子全集于马叙伦一身，生活更加窘迫。
杭州之江大学迁到上海后，邀请马叙伦去讲授文字学课和论语课。他为了生活和传授祖国文化遗产，不顾病痛、著书立说的劳累和遭敌迫害的危险，承担下这一工作。他一如既往，对教学严肃认真，一丝不苟。
在讲文字学课时，为使学生了解文字构造的规律，他常常选择具体实例，并在黑板上细致地描绘字体的变化，加以说明，例如，讲人、大、天三个字时，他说：“这三个字现在小学生都能认得，都能明白它们的意义。……但是就文字的构造来说，它们实在是一个字”。“大字是人的正面象形字
，人字是人的侧面象形字
，天字不过比大字画的更具体些罢了
、”。又说：天的象形“只能画一个抽象的
，可是因为和
字门字等容易混淆，所以后来用大字来代替它；因为人和天的声音是同类的，所以就拿天字专门做天地的天字用了；拿大专门做大小的大字，也是如此”。然后概括说：“中国文字是属于象形文字体系的；可是在象形文字体系里是进步的一种；构造方法，已由纯象形向象声文字的方向发展了。”
他还结合自己的研究成果，提出独特的见解说：“中国文字的构造有六个方法：象形、指事、会意、形声、转注、假借。最基本的规律是象形、指事、会意，发展而为形声，再进一步发展了转注、假借。前四有它们自己的一定特点，后二是运用前四却各自成为一个规律的。”接着他批驳说：“前人有说前四是造字，后二是用字，这是似是而非的见解；其实后二也是造字。”
一学期中，他把中国语言文字的起源、构成、区别、演变等都深入浅出、透彻地讲述给学生，并博引了上自汉代下至清代著名说文研究家的学说。内容丰富，科学性强，触类旁通，时有新意。他还引导学生研究文字与社会的关系，进而运用文字考查社会，而且鼓励学生独立思考。当学生朱镜清用象形字例，推论出“
”即古“鬼”字时，他非常高兴。旧历年将近，天气寒冷，马叙伦右臂关节炎严重发作，右脚行路艰难，再不能乘公共汽车到之江大学授课，又困居家中。
数月，病好转。在家里，也常有学生和青年教师以及学者来请教和讨论问题。东吴大学有一位文学院助教谢孝萍，原是法科毕业生，文学基础差，很想补上文字训诂学。经介绍，他和圣约翰大学的一位讲师徐淳穆一起得以去单独听马叙伦的讲授和指导。
时值夏天，马叙伦住在一条陋巷的狭窄小楼里，屋中十分闷热。他身着一套短衫短裤，赤脚布鞋，正在南窗下的书桌上著述，见两位年青人到来，放下笔，亲切地接待了他们。话题很快转到了学习上，他很关心青年人的成长，对治学态度，深有体会地说：“治学是一个艰苦的历程。没有捷径可循。图省事最终只能欺骗自己。做学问能否成功，关键在于一个‘勤’字。至少要做到口、笔、脑三勤。口勤是不懂就问，不怕难为情。直到明白为止。笔勤不仅仅指写笔记，制卡片，还要勤于迻录前人著述的精华，从前人研究成果中汲取营养。还要勤于用脑，所谓‘心之官则思’，也就是勤于思考，勤于用科学方法整理猎取的知识。”
他又风趣地比喻说：“土地爷最公道，农民种地，春天使多大劲，秋天给你多大的收获，土地爷不讲面子，童叟无欺。做学问也要勤字当家。”（注5）
以后，每周讲课两次，谢孝萍和徐淳穆深得教益。多年后，谢孝萍还回忆说：“先生寓教诲于谐趣之中，给我以深刻的印象，我一直奉为圭臬，至今记忆犹新。”
马叙伦家附近住着一个年轻人，名叫宓逸群，爱好诗文。他很注意培养，每逢星期日，常带一词或一诗去宓家，与之论述诗词兴衰、风调变化、时代环境特征，并讨论时事或谈掌故等。马叙伦还曾赠诗句：“骨有松高峻，心如太古春。”勉励宓逸群重气节，珍惜前程。
当时有人对青年看不惯，马叙伦却常说：“老年人都是从青年过来的，……老年人应回顾历史，分析自己在青年时期的思想和行动，针对目前社会变革的前景，来支持青年人走在时代的前面，这是老年人的责任。”（注6）
马叙伦与一代词宗夏承焘、诗人汤国黎亦常相约茶叙，三老相互唱和不衰。
和柳亚子也相互拜访，谈锋极健，多讨论时事等。柳亚子每得句，则慷慨吟咏，马叙伦亦有和之。表现了他们关心国事和革命乐观主义精神。
此时，马叙伦也更多地接触了下层社会。一日傍晚，他遇一人力车夫，便亲切地谈起来。他问：“每天能赚多少钱？”
答：“最多不过三百元，还不是每天都可以拉（注：上海一辆人力车，都由两个人分朝夕拉之，或分前后日拉之），少赚时，一天只百余元；而一顿饭就需要百余元，饭每碗五十元，两碗下肚，还不觉怎样。增加一蔬菜十元，实在不能饱。”车夫又指其车轮上橡胶胎已坏者说：“车租每天百元，胎坏车主不管换，修理费用由我拿，每次修要三十元，每天又要打气，一次要三元，如打两次就六元，这些车主都不管。”
又问：“家有几口人？
答：“三口人。”
马叙伦听之，几乎泪下。此真正的社会基本分子，生活尚且如此。谁之罪耶？
在沉重的政治和生活压力下，一些人磨炼得更坚强；一些人却消沉下来，甚至走上拜佛的道路。
马叙伦的早年友人许炳堃，曾在日本学纺织，回国后做过浙江谘议局议员、省立工业专门学校校长，后游欧美。他们久失联系。马叙伦在一个偶然的机会中得知此人也困居上海，遂去探访。许炳堃正手执数珠，虔诚拜佛，也劝马叙伦信佛，读宗镜录，说。“学佛主心宗。”
马叙伦耐心地告诉朋友。“我略知一些佛学，但不信佛。近来转依唯物主义……宇宙现象都是物质的变化，人的一切行动都是物质的活动。”
其友不以为然，则说：“境由心造”，并举例说：“一个强盗打我嘴巴，我害怕，一个朋友打我则生气，……嘴巴相同，但起心不同，这自明是心造的吧。”
马叙伦反驳说：“正相反，因为你见到强盗的面目狰狞则起惧心；朋友的面目与强盗不同，则起恶心，所以由目不由心。”又说：“如果盲人被打，他不知是被何人打的，必无惧怒之分，唯有怒的反映。”
翌日，他的朋友回访马叙伦，二人又讨论起唯物论与唯心论。许炳堃举梦中之事有应验者，再次强调“境由心起”之说。
马叙伦也以自己曾有多次这类梦为例，详细剖析，追忆过去，都是有来龙去脉的。进而说明“这些都是脑神经中枢作用，传达于器官，若失去某一器官神经，也无此反应。神经和器官都是物质，心也是物质。”
马叙伦意在帮助友人树立唯物世界观，但因友人信仰时间已久，未有结果。
他又看到在编《新世界学报》时，认识的王小宋所著的《略论佛法要义》，其中有一段说：“马克思尝谓宗教为民众之鸦片，盖言其止能麻醉民众，无滋养价值也。然彼除对基督教偶有讨论外，未见讨论他种宗教，更未见其讨论佛教；且佛教委实非他种宗教可比，然彼便下宗教为民众之鸦片之结论。”
马叙伦认为，王小来为佛教辩护之论不妥。因为凡属有宗教性质的，都有神权的意义，而且还具特种崇拜神权的仪式。佛教亦有崇拜神权的仪式，现在人们还有相信能升入乐土的，这和灵魂升入天堂是一样的。因此他说：“马克思是否将佛教列人宗教，固少明证，而使即然，有以召之矣。”
他以佛教三千年的历史，“未救人伦”，说明“叔本华（注7）不如马克思”。还以苏联为例说：“苏联信仰马克思，按马克思学说改造社会，人人劳动，人人得食，用力多者得酬多，然得酬者至无可费，而转纳其多余之赢于国，国家转以生产而利大众，此不愈于乞祭者之墦余，求布施于富人耶？”（注8）
马叙伦经过多年的社会实践和考察，艰苦生活的磨炼以及学习与研究科学，不仅保持了可贵的气节，而且有了阶级观念和唯物主义世界观的思想基础。所以他能抵抗来自各方面的侵袭，傲骨凌霜，刚直不阿。
早在他回上海不久，华北成立了以王克敏为头子的傀儡政府。他的好友汤尔和投降日本，出任伪教育总长。马叙伦闻讯，十分惊痛。一天，忽然有一不速之客登门求见，并自我介绍说：“我是从北平专程来沪拜访您老的，有汤总长的亲笔信在这里。”
马叙伦拆阅来信后，沉默不语。那人接着说：“总长请您担任北大校长，希望您老即日命驾。”
马叙伦坚定地说：“我是为了坚持抗日而被迫离开北大的。现在敌人全面进攻，困难严重，我岂能回到敌人刺刀下去混饭吃？请您回去上复汤总长，我是绝对不去的。但愿汤总长珍惜前程，保持晚节，我不写回信了。”（注9）来人悻悻而去。后来，马叙伦曾写《汤尔和晚节不终》一文，以儆效尤。文中指出：
“……余尝谓尔和一目能察舆薪，一目不见泰山，友人邵裴子然之；其所爱日本人也，亦以此持其家。尔和即历仕途，乐而不倦；又交王克敏，浸丧其操，克敏少习膏粱，服食奢侈，又好聚古董，尔和染焉，……‘九一八’以后，尔和家时有日人影佐、梅津、本庄者流之踪迹，而尔和卒沾伪职以迄于死。其居伪职时，出入警跸，所经通衢，行者止以待其过。……余与尔和同学又有金兰之盟、晚岁竟异趣，以不能匡救为憾。”
马叙伦困居上海，但革命之心不已。他曾在康脑脱路六十号（今康定路近泰兴路处），开一小书店，取名“明德书店”，以掩护上海中国共产党地下工作人员的电台，直至珍珠港事件后，日军进入租界，书店始停业。
一九三九年秋，一位抗日工作人员来沪做地下工作。固马叙伦有家眷在沪，所以请他帮助掩护，住在他家，他慨然应允。
在日本帝国主义招降政策下，大地主、大资产阶级的政治代表汪精卫集团叛国投敌。汪精卫的追随者陈公博，于一九四０年三月十一日由香港回到上海。在马叙伦家掩护的地下工作人员考虑到陈公博曾是北京大学学生，马叙伦是他敬重的老师，所以嘱咐马叙伦邀请陈公博晤谈，劝说陈公博不要与汪精卫同流合污。马叙伦以国家民族大义为重，邀见陈公博，晓以利害，力劝陈公博，停止卖国活动。陈公博多方辩解，还说：“要师友出来帮忙。”请马叙伦出任伪立法院院长或上海市长。马叙伦断然拒绝说：我是决不会出来帮日本人忙的，休要痴心梦想。如上海不能居，则当漂游四海，老骨心不足惜也。（注10）话音铿锵，就此告别。
马叙伦回到家后，屡念民族危难和他与陈公博的师生之情，还想作最后的规劝，遂写了七律三首托人转陈公博。其中一首云：
“立齐立楚竟何如？为帝为臣止自娱。
讨贼使来侵服廓，连横约就背商於。
可使智囊蒙五鼎？愿将慧剑斩千狐。
眼前栽树春江侧。同狎鸥波倒玉壶。”（注11）仍是无效。一九四０年三月三十日，汪精卫在南京粉墨登场，任伪国民政府行政院长、代理主席。陈公博任伪立法院院长兼政治训练部部长。马叙伦闻讯后，十分气愤，以诗怒斥：
垂老闻将割燕云，更输岁币更监殷。
连横计就秦为长，和议称臣构署文。’
不师沫请归侵地，不学汪锜作国神。
降表独修归命急，降王长巳属他人。
匹夫犒敌有弦商，擅结盟书史未尝。
欲起宣民问书法，春秋何例比刑章。（注12）
诗送出后，马叙伦即与陈公博断绝往来。
同年十二月，陈公博又兼任了伪上海市市长。他几次托人向马叙伦致意，希望约期晤谈，马叙伦均婉言谢绝。
一九四四年春节时，陈公博忽然来到马叙伦家里。谈到时局，陈公博流露出悲观、暗淡的心情。马叙伦告以人民疾苦，劝陈公博及早回头。陈公博走后，马叙伦又给他一封信，再次劝告其悬崖勒马，回头是岸。陈公博仍顽固到底。
此时，上海与后方消息隔绝，马叙伦几位大的儿女都在四川、云南等地，身边只有夫人和三岁幼女。在敌伪统治下，纸币贬值，物价飞涨，生活更加艰难，虽然有蔡元培帮助，得到庚款会协助科学工作者待遇费，每月二百元，但也时有断炊之虞。一九四四年除夕时，他有诗云：
“索逋如梭灶断烟，娇儿犹噪过新年。
怜她不知人间世，我且高歌《秋水篇》。”
正陷人困境之时，忽见陈公博派人送来大米和钱。马叙伦当即制止卸车，将大米和钱如数退回。他们走后，马叙伦高吟“众人皆浊我独清，众人皆醉我独醒”的屈原名句以自励。
当年，陈叔通先生曾赠诗马叙伦，赞日：贫为儒者兮，不改岁峥嵘。大业归文字，多情慰妇婴。问年新历计，避世旧名更。最是关心事，巴山报风声。