杭州位于浙江东北部，地处钱塘江下游北岸，是浙江第一大城市，政治、经济、文化的中心，为我国历史上著名的六大古都之一。
杭州有悠久的历史文化传统，涌现过许多政治家、著名学者、诗人和艺术家。仅南宋时期，浙江进士即达六千九百余人，占该朝代进土总数近十分之四，而又以杭州为最多。所以有“山川之胜，翰墨之缘，可以兼得”或“人材渊薮”之称。
一八八五年四月二十七日，马叙伦出生在这山清水秀、人才登举的名胜之地。
他字彝初，更字寅初，号石翁、寒香，晚号石屋老人。
祖居浙江绍兴府会稽县东胜乡来家弄。高祖马应风是农民。曾祖父马秀明为生活所迫，十二岁即怀钱二百文，渡钱塘江抵杭州谋生，了身无依，遂拜一位鞋匠为师。精心学艺。及壮年，自设小店“步云斋”于横河桥，以制鞋为业。其鞋料质优，手工精细，底质坚硬如板，名传于省会，故订购者益多，渐积累资金，生活小康，但仍不忘幼年贫困之苦，愿助人解难，有求者必设法帮助。每年岁除，都以小红纸封银五分乃至数钱，于夜晚巡僻街陋巷，密听度年困难者，即乘隙投封而归。久之，人们知悉，登门来谢，他从不受领。后长子为官，他即将店铺赠与徒弟陈元泰。
祖父马文华，字焕卿，自幼好学，青年举于乡，又赴礼部会试，路经上海，在旅店遇一老妇携少女，贫病交加，困于穷途，遂解囊相助百数十元，自己仅留数元而质衣为路费。老妇深为感动，命女请为妾，马文华坚辞不肯。后赴京登第，咸丰二年中副贡（即清代的副榜贡生），八年中举人，九年中进土，授吏部主事，补文选司掌印，历稽勋司、考功司、验封司、上书房行走、员外郎衔，加三级。为官清廉，好交友。乐于助人。虽任职二十余年，在任病逝，但家无“斗石之蓄”。
父亲马辉书，字献臣。自幼聪颖，学习刻苦，做事认真，喜读经学（注1），尤其爱好小学（注2），手录群书训枯，累寸积尺；但因年轻丧父，赡养全家，而未得志，仅为县学生员。
马叙伦出生时，祖父马文华已病逝两年多，家道中衰。他懂事后所见，是父亲日以继夜地为人书写条幅、扇面，每日需写五、六十幅之多，方能勉强维持三代人——母亲、妻子。弟妹、侄子和子女近十口之家的生活。后杭州织造府聘请马深书为治幕府（注3），遂扶病任职，朝出理事，夜归录书摹字，勤奋不息。他虽繁忙，但很好友，四方之士，以及朝鲜、琉璃日本人无不结识，持身清恪，以诚相待。这些，对幼年的马叙伦影响很深。
一八八九年春。马叙伦不满四周岁时，父亲便给请来了破蒙老师。这位老师是山阴人，名王会澧，是当地名流，年前中了浙江乡试第一名举人，又即将入京会试。父亲不辞辛苦，远地寻高师，足见其对子期待之切了。破蒙仪式很隆重：室内摆设着书案、孔子牌位和香炉。父亲、王老师都身着礼服。三人先拜孔子，接着父亲行托付札，后是马叙伦拜老师。“发蒙”时，王老师指着《小学韵语》（浙江官书局刻，大版）开头的四句，庄严地读着：“小学之道，诲尔童蒙，蒙以养正。是曰圣功。”幼小的马叙伦怀着极大的好奇心，目光炯慧，会神静听。当老师再教第三遍时，他已经会读了。老师异常惊喜，倍加称赞，父亲也格外高兴。
“发蒙”后，由父亲教读《小学韵语》和写描硃字。马叙伦一写就很合式，父亲十分喜爱。但是，因为父亲忙于工作，所以，教读时断时续。几年后，父亲从萧山请来一位老师教马叙伦的两个堂兄读。《大学之道》，马叙伦也随之。后来，家境愈下，老师也请不起了，就把马叙伦送到邻居张先生家学习。这里有十几名儿童，年龄大小不一，程度参差不齐，但都一律读《盂子》下卷。老师要求背诵下来即可。马叙伦背得很快，但不解其意，甚感枯燥。可是他对写字兴趣颇浓，进步很大。
一个夏天的傍晚，明月初升，荷花送来馥香。巷里二十几个年轻的读书人，聚在一起比赛写字。不满十岁的马叙伦也参加了这次比赛。他初崭头角，笔力俊逸雄健，博得在场观众齐产喝彩，获得了第一名，誉为壮苗新秀。父亲闻知，异常高兴。
但是，不幸的事情突然发生。旧历十二月十二口下午，马叙伦在张先生家读书，正高声唱读“梁惠王曰：晋国天下莫强焉……”，听到急促叫声：“履官（马叙伦的乳名），偌母叫偌回去。”得到老师准假后，他拿起书包，向老师深深鞠了一躬，就赶快走了。
原来，其父在前一年，因光绪婚礼，织造府来往奏章纷繁，再加以许多官员见他通晓算术，相求平量物价、他日夜持筹握笔，连续紧张工作，遂致咯血。本年年春，爱如亲子的长侄天折，秋后老母又病逝，他悲痛异常，咯血加剧，今日病情更加恶化。
马叙伦到家见父亲卧在床上，脸色苍白，痛苦不堪；母亲似乎已呆了。他心如刀绞，父亲惨淡的目光饱含着辛酸和期望，拉住他的手，双唇微微颤动，断断续续地说；“大……儿……”，声音凄恨不属：又对马叙伦的母亲徐徐地说：“取瓮中花……生子……给……他。”马叙伦双手颤抖，接过花生放在怀里，泪如泉涌。乌云遮住星光，天气更加漆黑，夜幕沉重地压了下来。子夜，父亲痛楚地离开了人世。
马叙伦的幸福童年短暂逝去。经济来源断绝，沉重的家庭负担压在其母身上。她十分刚强，靠着十指刺绣，昼夜操劳。马叙伦总想为母亲分忧，刚强、淳朴的母亲得到了极大的安慰，摸着马叙伦的头顶说：“你爸爸没有得志，是他一生的恨事，你要替爸爸争气，继承你祖父的书香啊！……”母亲的言行，熏陶着他的意志和性格。
十一岁时，母亲将他托付予父亲生前好友苏州汤颐琐。临别时，邻人关心地对母亲说：“这么小，怎么舍得让他远行！”，母亲坚毅地说：“我欲让他继承祖父的书香，念儿在我心上吧！”汤先生因在温州就馆，不能亲自教他，又给请了刘题为师。这位老师教学有方，要求严格，每天上新课、温习旧课，讲解文意和文法，要求学生熟背课文，理解内容，使马叙伦懂得了《论语》、《盂子》等书的微言大义，引起他极大的兴趣。历史和文学知识深深地吸引着他，他孜孜以求，勤奋学习。
老师还教“对课”，严格按科举考试的五言八韵诗进行训练。马叙伦学得很快，老师的词刚出口，他使能对上：
老师说：“柳眼”
他便对：“桃腮”
老师说：“飞絮”
他便对：“游丝”
老师说：“青云”
他便对；“赤日”
老师又增加到三个字：“乱头风”，马叙伦对：“长脚雨”：老师说：“红板路”，他便对：“白门潮”。
后来，增加到五个字。经过这些基本训练，为写诗打下了基础。
马叙伦学习能力很强，每天约三个钟头便完成老师留的全天功课。老师十分喜爱他。但是，马叙伦只学了三个月，就恋恋不舍地辞别了刘老师，又随他寄居的汤先生家迁到温州，由汤先生教读《诗经》、《经》等古代诗文。但因汤先生文酒应酬太忙，三、五日才能让马叙伦背诵一次，还无暇讲授。马叙伦学习又遇到了困难。
他十三岁时，由叔父接回杭州。起初，请了一位老师教他，到年末再也请不起了。马叙伦不得不到义塾学习。这里的学生，程度高的文章满篇；低的只是背诵对课。马叙伦课余经常向高的同学学习做试阳成后按母亲的心意，又回到巷里，跟邻居家请的老师学习。他乐于进取，和同学比赛式地学习，从不甘落后。他和一个姓洪的同学天资相仿，对背诵常常不相上下。他的座位离先生较近，多抢在前。一次，姓洪的同学乘其不备，早离开座位，马叙伦眼快，也随之抢到先生面前，两人便同时背诵起来。先生左右为难，便想出了个办法，先叫二人停止背诵，后从书里挑出一句：“不占而已矣”，让姓洪的同学接着背，结果没有背出来。老师又向马叙伦说：“是知其不可而为之者与”。话音刚落，马叙伦便背诵如流，这更增加了他的必胜信心。
这个阶段，马叙伦已能了解《论语》、《孟子》的文法了，便想学作八股文。老师教他读了几篇范文，他对文章的警句，接受得很快，很欣赏俞曲园的“草草杯盘，席上之残肴未撤，荧荧灯火，室中之旧榻犹存”之句，觉得描写的有趣，便也学着做起八股文来。
在多年的私塾学习中，马叙伦是在矛盾中度过的。他铭记母亲的嘱咐，并为文化知识所吸引，不断地进取着。但对死记硬背，教学上“老方子的一贴膏”，逐渐感到乏味，如加桎梏。他十分渴望能有另一种学习内容和方法。
一八九八年秋季的一个夜晚，明月当空，马叙伦在回家的路上，忽然看到尼姑慌慌张张地担着泥菩萨搬家。问其原由，方知：发生了“戊戌变法”。清光绪采纳了康、梁建议，宣布准备废除八考试制度，奖励科学发明，奖励民办工业，实行言论自由，召开国会以行宪政等，还传说要渡佛教，用庙宇办学堂，所以尼姑有此举动。第二年果然在杭州创办了“养在书塾”。马叙伦欣喜异常，于一八九九年夏，征得母亲同意进入这所学堂。
养正书塾受古今中外文化、思想的各种影响，成了一所不今不古、不中不西的学帆学校设有国文、历史、掌故（注4）、地理、数学、外语等课。分二、三、四三个班，程度从初小二、三年到高中一、二年。最高班是二班，学生年龄在二十岁左右，都会作满篇文章；最低班是四班。马叙伦入学时还不搞策论文（注5），又未学过地理、英语、数学，所以学校将他和程度类似的同学编成一个班，名曰新四班。开始学习时。马叙伦遇到了重重困难，英文发音不准，地理无从入门，数学格格不入。但他奋发追赶，不到半年，星期作文连续得了七个第一，成了班中“翘楚”，提前升入了老四班。他在这个班学习两个月后，国文也多得第一，年终又升入了三班。
不久，班上新来了一位陈老师。他穿着朴素，口操温州话，同学们都听不懂，把他当成乡下老先生。马叙伦困在温州住过，熟悉语言，又因自已家贫，终年布衣布鞋，所以倒有些“他乡遇故知”之感。后来知道陈老师名叫陈黻宸，字介石，翰林出身，是当时著名的历史学者，知识渊博，古文也作得好。
陈老师在历史课中善发新义。他讲明代历史人物方孝孺与“靖难之变”（注6）时，先叙述史实，接着，提出自己的见解说：“方孝孺之赤十族，不过为建文争帝位于燕王，而以十族为名教所牺牲”。这实际是为圣贤之训所害。
他又评论了王阳明对待武宗和宸濠争王位的问题。（注7）认为：“王阳明功业虽成，然武家无君人之德，而表驻亦朱家于弟，不劣于武宗，何必左桓武宗而诛代宸濠？”引导学生超越三钢五常的封建思想束缚。还常出一些思考题，启发学生钻研。
陈老师“不愤不启，不排不发”（注8）的教法，尤其能从古书里联系当今，发出新义，同学们受到很大教益，对陈老师很佩服。马叙伦更是十分敬重。他历史课学得出众，思想进步很快。一夭，他在晚外读《三国演义》时，看到刘备对诸葛亮说；“可辅则辅，不可辅则自取之”；诸葛亮则以“鞠躬尽瘁，死而后已”为对。他也发出新义。认为：后世人常信刘备与诸葛亮如鱼得水之说，其实，历史上哪有自动让出王位的。刘备因为知道刘禅庸碌不肖，担心自己死后，诸葛亮篡位，所以才用此话试探。诸葛亮的回答解除了刘备的怀疑。刘备死后，诸葛亮为保刘禅也曾专擅朝政，但从《出师表》一文看出，诸葛亮不能独立决策，仍受刘禅的控制和猜嫉。故诸葛亮虽有治国之才，终难发挥，奉房主而失国。马叙伦认为这也是受封建教义束缚而不能自脱的教训。
他学习刻苦，善于思考，运用灵活，深得陈老师喜爱和器重。陈老师还把他介绍给蔡元培，蔡元培也珍爱此“杰出之才”。
当时杭州有三种上海报纸：《申报》、《新闻报》和《中外日报》，但在学校里，只教员室有，学生看不到。陈老师就常给同学们讲时事。一天，他叫马叙伦到教员室，沉重地告之：八国联军进了北京，皇帝走了。国家危险了。”民族的危难，使马叙伦痛哭不已。陈老师抚摸着马叙伦的头说；“你不要哭，慢慢对你说，你去息息吧。”
第二天，陈老师因势利导，给学生们讲了六朝五代和宋明亡国的历史，进行反对异族侵略、热爱中华民族的教育。马叙伦和许多同学初步了解了所处的时代和责任。在课外，陈老师还介绍许多书给同学读。如：王夫之的《黄书》、黄宗义的《明夷待待访录》和留云居士的《明季稗史汇编》中的《扬州十日》及《嘉定屠城记》等。马叙伦看到这些禁书，如获至宝，手不释卷。书中：痛恨异族入侵，“是生民以来未有之祸”；“天下之大害者君而已矣”；清兵攻破嘉定城后三次大屠杀和攻人扬州城后血洗十日的惨况等，在马叙伦少年心灵中播下了反对异族侵略和反对君主专制的种子，产生了“民族民权两种观念的轮廓”。（注9）
翌年九月，腐败无能的清廷与帝国主义签订了丧权辱国的《辛丑条约》。中国赔银四亿五千万两；将东交民巷划为使馆界，界内由各国驻兵管理，中国人概不准居住；拆除大沽炮台及有碍京师至海通道之各炮台；外国军队驻扎在北京以及至山海关的十二个重要地区；永远禁止中国人民成立或参加“与诸国仇敌”的各种组织，违者处死，各省官员对所属境内发生的“伤害诸国人民”事件，必须立刻镇压，否则即行革职，永不叙用，外国认为各个通商章程中应修之处或其它应办的通商事项，清政府概允商议；清政府惩办祸首诸臣，改总理各国事务衙门为外交部，班列六部之首等等、马叙伦和同学们对此无限愤慨，痛恨列强的欺凌和清政府的昏聩，数日平静不下来。陈老师又介绍他们读一些西方资产阶级启蒙学者的著作。马叙伦读了《天演论》，思索着“物竞天择，适者生存”；读了《法意》、《民约论》等，进而受到了天赋人权，平等自由，建立共和，主权属于人民等思想影响。他产生了强烈的爱国革命思想，非要打倒“满清”政权，建立民主国家不可，并积极寻找志同道合者。这些思想上的变化，也给考试作文增加了新的色彩，学习动机开始有了变化，劲头更足了。
半年后，他又升到了二班，开始和最高年级同学并驾齐驱。又经过半年，和同学一起升入了头班。在这里，他学习上又遇到了新的更大的困难；数学课，大家都学到了微积分，而马叙伦连三角都未学明白；英文课，别的同学已能比较流畅地对话，而他连造句还不够熟练。但由于他增添了新的动力，学习更加刻苦。除因藐视外语，认为是“鬼话”，没有学好外，这一点，马叙伦后来说：“我一生的吃亏却在这里。”其余功课的成绩都进步很快，不仅历史、国文。掌故等课的成绩居先，而且不到半年，成了班中学习成绩最优秀的三人之一，另外两个人是汤尔和与杜士珍。杭州府知事两次到校督试，马叙伦均名列高等，受到嘉奖。当时学校命名他们三人为特班生。准备毕业后送出国留学深造。同学们称他们为三杰。这“三杰”志同道合，在马叙伦倡议下，结义为兄弟；以后又扩大到求是书院的蒋尊簋、蒋百里、史久光、李斐然、周承菼、许寿裳、钱家治等七名同学，他们互为同志，都准备毕业后去日本学陆军，以民革命之志。
一九０一年，养正书塾改名为杭州府中学堂。下学期，学校又设了六名师范生和一个预备班生。三杰都在师范生内，还有周继善、叶诚然、龚寿康等，同学们又称他们为“六君子”。师范生除本身学习外，还要教预备班生。马叙伦等在教学中也学习陈老师，采用了“不愤不启、不排不发”的教学法，诱导学生发现问题，提出问题，再给予必要的指点和启发，鼓励学生独立思考。还增加了民主讨论，有时出一个问题，让学生自动上台，自由发表见解，相互质疑辩难。所以预备班生和他们关系很好，亲如手足。师范生们还到求是书院（注10）参观，学习经验，见到那里的学生进行各种体育活动，“不胜欣慕之至”。他们回校上书总理（注11），请求也增加体育科目，添置体育设备，得允，活跃了学习生活，很受同学欢迎。马叙伦也很喜欢体育活动，翻杠子，荡秋千居然为第二手。
马叙伦等“三杰”还用他们自己的奖学金五、六十块银元办了一个小图书馆，名曰“皆大欢喜楼藏书”。购进了一些新书，还订了一份陈叔通等所办的杭州唯一的“白话报”，供全校同学阅览。该报对传播新思想起了一定的作用。此外，马叙伦还在学生中建立了自治组织，利用课余时间发动低年级同学，参加时事讲演、新知辩论会，开展各种社交活动，学习新知识，探索新事物。
学生中民主思想日益扩展，冲击着学校旧的传统观念和清规戒律。校中有一位学正（注12），骄横跋扈，引起大家不满。一九０二年立夏不久的一个傍晚，有三名低班同学和学正同桌吃饭，一边吃饭，一边相互谈话。学正向他们怒目而视，他们却装作没有看见，仍高声谈笑。学正板起面孔教训说：“‘食不语，寝不言’，夫子之道也，你们懂得吗？”学生故意回答：“我们不懂，嘻！嘻！”于是，学正拍案而起，盛怒而去。同学们推测学正要告到监督（注13）那里，都替这三名同学担心。因为监督平时很器重马叙伦、汤尔和、杜士珍，所以大家就推举马叙伦、杜士珍前去疏通。他们二人还没赶到监督家，监督已坐四人大轿冲进了校门。立即在“君子堂”里召集全校师生，要把三名“肇事”学生开除学籍。
马叙伦和杜士珍急得无法，只有恳请总教习陈老师来营救。陈老师毫不推辞，赶到学校，见监督正拿硃笔要写开除布告，他迫不及待地向监督说：“不能！不能！”监督不理，陈老师更急得大声阻拦说：“先生，先生不能，不能！”监督不听劝解，慢慢地说：“本监督自有权衡，教习勿得干预！”
陈老师顿时火起；“那么我辞职罢！”
听说总教习辞职，“君子堂”内外，学生潮涌式地轰动了：“陈先生辞职，我们也走！”
大家聚起来商量办法，一面凑钱租房，准备暂时安身之所；一面写呈文，向巡抚、布政使、按察使三大宪告学正。第二天早晨，大家向孔子牌位行个礼，就陆续离校，以示决绝。校方见事态已扩大，遂采取了分化手段，软化了一部分同学回校继续上课。而马叙伦等仍坚持要求校方收回成命。校方执意孤行、由此，马叙伦等被开除了学籍。监督在写开除布告时，对他们几个师范生还特地不用朱笔而用墨笔，“以示优异”，井流着眼泪说：“我手里只造就了这几个人，偏偏还在我手里开除他们。”
马叙伦渴望赴日本留学的愿望就这样落了空。因为家贫，再也得不到在校读书的机会了，他愤然走上社会。
注1 经学；训解或阐述儒家经典之学。经学著述是研究中国封建社会史的重要资料。
注2 小学：汉代称文字学为小学。隋唐以后，成为文字学、训古学，音韵学的总称。
注3 幕府；古代将军的府暑。后世地方军政大吏的府署也称幕府。
注4 掌故：关于历史人物、典章、制度等的故实或传说。
注5 策论文：策显策风论是议论文。宋金科举制度，曾用以取土，清亦一度废八股文，改试策论。
注6 朱元璋死后，皇太孙朱允炆坟继帝位为惠帝，号建文。他恐各藩王叔夺位，实行了削藩政策。不到一年，削了五个藩王，当要削到燕王朱棣时，朱棣先以“靖难”（即解除皇帝周围奸臣）名义举兵攻占南京，惠帝下落不明，燕王夺得了帝位。在他登极前，命原惠帝侍讲学土方孝孺起草登极诏和方孝孺坚意不从，结果被杀。祸灭九族及学生，死者达八百七十余人。史书均以方孝孺为“忠”，尊圣贤之训。
注7 武宗在位时，宸濠反于南昌，将据南京；王阳明起兵攻南昌。宸濠回救，为王阳明所虏，而被杀。
注8 “不流不启，不排不发”出于《论用》。
注9 马叙伦；《我在六十岁以前》，第17页。
注10 求是书院即后来的浙江大学堂、浙江高等学堂、浙江大学。
注11 总理，后又称监督，即校长。
注12 学正，相当于现在的总务主任。
注13 改为学堂后，校长称监督。