20世纪80年代初，史学界又掀起了一场关于淝水之战性质的论争。1980年《华中师范学院学报》社会科学版第一期发表了徐扬杰的题为《论淝水之战的性质和前秦失败的原因》一文。这篇文章是徐扬杰在福建师范大学历史系为配合教学而撰写的。想不到过了将近十七八年才拿出来发表，更想不到发表之后在全国史学界掀起了一场轩然大波。论争之激烈，持续时间之长，在近代史学界也堪称是前所未有的。
徐扬杰写这篇文章的初衷只是为了辅导学生，以纠正在学生学习中的一些模糊认识。如在教学中，一些天分较高、又爱钻牛角尖的学生时常提问：“徐老师，为什么历史上汉族同少数民族打仗，汉族天生就是正义的，而少数民族却是注定要破坏汉族的经济和文化？”徐扬杰这才开始认真考虑这个问题。经过一段较长时间的思考后，他认为，这是大汉族主义的表现，是“内中国，外夷狄”“华夏正朔”的封建正统观念在作怪。于是写下这篇文章，并油印若干本，提交给1963年5月召开的全校科学讨论会。没有料到，这篇文章在全系师生中引起热烈反响。赞成者有之，反对者有之，针锋相对，争辩激烈。但当时师生们争论学术上的问题还是平等和与人为善的，并不像后来发生的“文化大革命”那样，把学术问题同政治问题搅和在一起。然而，“天有不测风云”，想不到在两年之后的高校“四清”中，这篇文章竟成了徐扬杰“新生资产阶级知识分子”的罪证。由于徐扬杰家庭出身好，学生时代就入了党，加之主要又是新中国成立后受的教育，别的什么帽子都很难扣上，戴一顶这样的帽子在当时似乎最合适不过。不久，史无前例的“文化大革命”爆发了，几年前写的这篇文章竟成了弥天大罪，批判他的大字报铺天盖地而来。造反派不分青红皂白，说什么徐扬杰明目张胆地为侵略者歌功颂德，为民族侵略战争唱赞歌；主张野蛮的外族统治者侵略汉族国家的战争是正义的，是“丧失民族气节”；“光只是战争的性质是正义的，并不等于战争会自然而然地取得胜利”是为美国侵略越南张目，是诅咒越南必败。还说“该文章写于蒋介石叫嚣反攻大陆的1962年，其动机特别可疑”，等等。罪名、帽子一大堆，欲置他于死地而后快。1967年，“文化大革命”愈演愈烈，徐扬杰更是在劫难逃。他的家族史被认为是为“地主乡绅树碑立传”，“为封建家族制度唱赞歌”，紧锣密鼓地配合了“60年代农村中的修祠堂、续家谱、重建家族制度的复辟活动”和“为地主阶级反攻倒算”造舆论等等。他的许多珍贵资料和手稿被抄，使他陷入一种无可名状的痛苦之中。不仅他教学和科研的权利被剥夺，而且人格受到侮辱，肉体因轮番的批斗受到摧残，精神上的折磨更为一般人所无法想象。在“文革”高峰期，他已停发工资，失去了基本的生活来源。为了躲避更大的厄运，徐扬杰和妻子王隐，携儿带女，克服重重艰难险阻，回到了他阔别多年的故乡，回到了年迈的父母身边。