1994年,参加全国青少年锦标赛,获得个人首个男单冠军,并被中国乒乓球男队主教练蔡振华看中,进入国家二队。
1996年,参加乒乓球亚洲杯比赛,获得男单项目冠军,同年,进入中国国家乒乓球一队,师从吴敬平教练。
1997年10月,参加第八届全运会,在男团项目、男单项目中获得冠军。
1998年6月,参加马来西亚乒乓球公开赛,获男单冠军。同月,参加在日本举行的“荻村杯”全日本乒乓球公开赛,获男双冠军。参加第十四届亚洲乒乓球锦标赛,与队友合作,获男子团体冠军,与刘国梁合作,获男双冠军。参加第十四届亚洲乒乓球锦标赛,获男子团体冠军,获男双冠军。
1999年1月,参加国际乒乓球职业巡回赛总决赛,获男双亚军。同年,参加第45届世界乒乓球锦标赛,男单项目中,收获亚军。混双项目中,收获个人第一个世界冠军。
2000年,首次参加世乒赛团体赛,获得亚军。同年,参加第21届乒乓球世界杯,决赛中,以3-0战胜金泽洙,收获冠军。
2001年,参加大阪世乒赛,在男团决赛中获得世乒赛男团冠军。同年,还获得国际乒联巡回赛总决赛男单冠军。
2002年,参加国际乒联职业巡回赛总决赛,男双项目中,获得冠军。
5月,参加第47届世乒赛,混双项目中,夺得混双赫杜塞克杯。10月,参加乒乓球世界杯,男单项目中,获得世界冠军。12月,出战国际乒联巡回赛总决赛男双项目上,夺得冠军。
2004年3月,参加第47届世乒赛男团决赛,获得男团项目冠军。8月,参加雅典奥运会,男双项目中,获得个人首枚奥运会金牌。10月,参加2004年乒乓球世界杯比赛,成功卫冕。12月,参加国际乒联职业巡回赛总决赛,男双项目中,获得冠军。
2006年5月,参加第48届世乒赛男团决赛,实现世乒赛男团三连冠。10月在乒乓球男子世界杯男单决赛中,获得世界杯冠军。12月,出战多哈亚运会,男团决赛中,获得男团项目冠军。单项项目中,获得混双冠军。
2007年5月,参加第49届乒乓球世锦赛,男双决赛中,职业生涯首度获得世乒赛男双冠军。10月,跟随中国队夺得第5届乒乓球世界杯男团项目冠军。12月,参加国际乒联巡回赛总决赛,男单决赛中,获得冠军。
2008年3月,参加第49届世乒赛团体赛,获得冠军。8月,北京奥运会乒乓球男团决赛中,获得男团项目金牌。男单项目中,收获个人职业生涯首枚奥运会男单金牌。
2010年5月,参加世乒赛男团决赛,获得男团冠军。11月,参加广州亚运会,夺得男团冠军。
2011年8月,入选国际乒联名人堂。
2012年,参加第20届亚洲乒乓球锦标赛,获得男团冠军。
2014年8月,正式宣布退役。
2014年5月,出任广东省乒乓球队总教练。
2017年4月,重返国家队,担任国乒男一队教练员
2019年2月,出任国乒女一队组长。
2021年,第一次带队参加奥运会,除指导刘诗雯和陈梦外,还担任混双项目主管教练。在女单项目中,弟子陈梦首次夺得奥运会冠军。
2022年12月,正式成为中国国家女子乒乓球队主教练。
2024年7月13日,担任巴黎奥运会中国体育代表团乒乓球项目教练。
2008年,北京奥运会男子团体冠军。
2008年,北京奥运会男子单打冠军。
2004年,雅典奥运会男子双打冠军。
2013年,单项世乒赛男子双打亚军。
2012年,团体世乒赛男子团体冠军。
2011年,单项世乒赛男子双打亚军。
2010年,团体世乒赛男子团体冠军。
2008年,团体世乒赛男子团体冠军。
2007年,单项世乒赛混合双打亚军。
2007年,单项世乒赛男子单打亚军。
2007年,单项世乒赛男子双打冠军。
2006年,团体世乒赛男子团体冠军。
2005年,单项世乒赛男子单打亚军。
2004年,团体世乒赛男子团体冠军。
2003年,单项世乒赛混合双打冠军。
2001年,世乒赛男子团体冠军。
2000年,世乒赛男子团体亚军。
1999年,世乒赛男子单打亚军。
1999年,世乒赛混合双打冠军。
2011年,乒乓球世界杯男子团体冠军。
2007年,乒乓球世界杯男子团体冠军。
2006年,乒乓球世界杯男子单打冠军。
2004年,乒乓球世界杯男子单打冠军。
2003年,乒乓球世界杯男子单打冠军。
2000年,乒乓球世界杯男子单打冠军。
马琳是现役国手中打球最善于动脑子的选手,对手的奇招往往坚持不了多久就被他的新策略击退。(中国新闻网 评)
马琳是那种想的很多的人,对冠军很要的人,但是相比王皓,马琳大气不足。马琳是个想的很细的人,有时候他可能比我们教练组都要想得多。所以在管理马琳的过程中是非常有意思的,感觉你是在和他博弈,某种程度上需要教练和他斗智斗勇,得有点水平,有些技巧。有些话是要点给他,有些话是要刺激他的。(国乒主教练刘国梁 评)
打球方面,马琳悟性最好,他对球、对对手琢磨的很透。马琳技术上几乎只靠正手,所以他能这么多年一直站在世界超一流选手之列,如果没有过人的智慧还有过硬的心理素质是绝对不可能的。(中国乒乓球队男队教练吴敬平 评)