霍元甲是怎么死的，大致有两种说法。一说是被日本人害死的。据说，霍元甲去世后，朋友们拿着日本医生开的药拿去化验，发现这是一种慢性烂肺毒药，这才知道是日本人暗下了毒手。
持这种说法且影响最大的，是当时的武侠小说作家平江不肖生（向恺然）笔下写到的霍元甲之死。1912年，著名武侠小说家平江不肖生先后出版《拳术》和《近代侠义英雄传》两部作品，在这两部作品里，平江不肖生栩栩如生地描写了霍元甲是如何被日本医生秋野暗害死的。平江不肖生描写的情形如下：
吓跑奥皮音，成立精武体育会后，霍元甲的胸痛加剧了，只得再到秋野医院去就诊。秋野道:“霍先生不听我的劝告，此刻这病已深入，不易治疗了。”便要霍元甲住院，并说:“要完全治好，大约须两个月以上。”秋野诊治得非常细心，常在霍元甲身边。
过了一个星期，疗效很好，预料还有几个星期可以出院。谁知日本柔道讲道馆来请霍元甲，秋野便陪同霍元甲前往。讲道馆中与众人寒暄过后，日本柔道高手便与刘振声交了手，一一都败了北，一个叫常磐虎藏的，露出那骇人的赤膊，不找刘振声握手，却直扑霍元甲而来。霍元甲既不情愿打，又不情愿躲避，只得急用两手将他两条臂膀捏住，不许他动，一面向秋野说话，要求秋野劝解。不料常磐被捏得痛入骨髓，用力想挣脱，用力越大，便捏得越紧，一会儿被捏得鲜血从元甲指缝中流出来。霍元甲一松手，常磐已痛得面无人色，在场的人，谁也不敢再来比试了。
霍元甲托秋野解释，秋野只管说不要紧，便一齐回了医院。到了夜间八点钟，秋野照例来房中诊察，便现出很惊讶的神气说道:“怎的病症忽然厉害了呢?”霍元甲道:“我此时并不觉得身体上有什么不舒适，大概还不妨事。”
秋野含糊应是，照例替霍元甲打了两针，并冲药水服了，拉刘振声到外边房里说道:“我此刻十分后悔，不应该勉强欢迎贵老师到讲道馆去，如今弄得贵老师的病，发生了绝大的变化，非常危险，你看怎么办?”并且说:“贵老师用力过大，激伤了内部，这是出乎我意料之外的事，我实在是不能治疗。我看你还是劝你老师退院，今夜就动身回天津去，或者能赶到家乡。”刘振声刚待回答，猛听得霍元甲在房中大喊了一声，那声音与寻常大异，慌忙拉秋野跑过去看时，只见霍元甲已不在床上，倒在地板上乱滚，口里喷出鲜血来，上前问话已不能开口了。秋野又赶着打了一针，口里不喷血了，也不乱滚了，仍抬到床上躺着，不言不动，仅微微有点鼻息。
霍元甲已失了知觉，刘振声只好独自赶到精武体育会，把农劲荪找来。农劲荪虽比刘振声精细，看了种种情形，疑惑突然变症，秋野不免有下毒的嫌疑，但是得不着证据，不敢随口乱说。奄奄一息地延到第二日夜深，可怜这一个为中国武术争光的大英雄霍元甲，便脱离尘世去了，时年才42岁。
支持以上说法者很多，主要有上海精武会的史料记载。有关霍元甲逝世前后的情况，上海精武会的史料上是这样说的:“在（上海）王家宅成立了精武体操会后，霍元甲担任武术教练，名声渐大，当时沪上日本人技击馆得知此情后，从日本挑选了十余名柔道高手欲与霍元甲较量，霍偕徒刘振声应邀前往日本技击馆切磋技艺。据记载：‘日方突袭元甲，元甲反袭日方……乘势一推，竟跌日人于天阶中，不幸断其右手，虽无心伤害，终不免于不悦。’从此日人与霍结下怨恨。正当霍元甲主持精武体操会，精心培养骨干以图大展伟业之时，却遭日本人的陷害。因误服了日人上门兜售的丹药后咯血病加剧，急送新闸路中国红十字医院医治二周后逝世。据《精武本纪》记载：‘力士殁之翌晨，秋医（日本医生秋野）已鼠窜归窟，力士门大疑，检力士日服之余药，付公立医院察之，院医曰：此慢性烂肺药也。’霍元甲 虹口日侨居住区自应邀抵沪至被日本人所害，时仅六个月，他的突然逝世，使精武体操会失去了支柱，会务无形停顿。”
《精武本纪》是1919年为纪念精武会成立十周年而出版的。它的记载也就成为下毒说的最有力的证据。下毒说影响广泛，因此一些根据霍元甲故事改编的影视作品也普遍采取了这一说法。但是，这种说法也遭到了一些人的质疑。他们认为，“下毒说”是武侠小说、影视安排主角之死采用的最普遍的一种做法，一个武功高强、智慧过人、道德高尚的侠客和英雄，如果他非死不可的话，他的死一般来说总是对手卑鄙暗算的结果。霍元甲死于日本人的恶意下毒，这样的剧情处理是比较经济的选择。一方面这样编织剧情比较简单、轻松；另一方面这样安排可以加强霍元甲的“殉难”色彩，英雄总是以身殉义，霍元甲与日本人结仇不是个人的私事，他是为国家和民族的大义而以身相殉的，这就突出了英雄的伟大，也更容易调动观众的爱国情绪和同仇敌忾之心。
显然，在持这种观点的人看来，下毒说只是文艺作者空穴来风的瞎编乱造，而缺乏足够的历史根据，特别指出：“1912年，著名武侠小说家向恺然（平江不肖生）先后出版《拳术》和《近代侠义英雄传》两部作品。根据传闻，他杜撰出霍元甲之死是被日本医生秋野用毒药毒死，以后人们以讹传讹，事实遂被严重歪曲。”因此，他们提出了另一种说法，认为霍元甲之死并非日本人所为，而是因病而死。
支持这种说法的根据是，就霍元甲患病及逝世经过，早期精武体育会的实际操办者之一陈公哲在《精武会五十年》里曾写过以下文字:“霍先生原患有咯血病，自寓所深居时，时发时愈。日人有卖仁丹药物者，时到旅邸，出药示霍，谓之可愈咯血而治肺病。霍先生信之，购服之后，病转加剧。霍先生得病之由，谓少年之时，曾练气功，吞气横阙，遂伤肺部，因曾咯血，面色蜡黄，故有黄面虎之称。自迁之王家宅后，霍先生病转加剧，由众人送入新闸路中国红十字会医院医治两星期，即行病逝。众人为之办殓，移厝于河北会馆。越一年运柩北返。”
显然，根据陈公哲的回忆，霍元甲原来就患有咯血病，经常会发作，日本人卖药给霍元甲，说是可以医治咯血、治愈肺病，霍元甲相信了，买来服下之后，病情反而严重了起来。陈公哲说这段话时没有是非判断，虽然他肯定了霍元甲购服日本人之药病情加重的事实，却没有说是日本人下毒，而是推测霍元甲用药不当。陈公哲这段话的后面，直接点出了霍元甲生病的原因，是霍元甲少年之时，曾练气功，“吞气横阙，遂伤肺部”，因而导致咯血，面色蜡黄。因此，持病死论一说者不同意下毒说，而倾向于认为霍元甲是死于自己练气功不得法而导致的病症。
相较于下毒的外因说，这种霍元甲死于自身病症的说法也可以称之为内因说。这种说法涉及霍元甲是否练气功和是否因练气功走火入魔而得病的问题，让人们联想到了武侠小说里经常讲到的气功观念。
持病死论一说者最后总结说:“陈公哲是邀请霍元甲来沪的发起人之一，又是霍元甲与奥匹音商量比武事宜的翻译，直至霍病逝。他和霍元甲接触频繁，友谊甚笃。因此，关于霍元甲的死因，陈公哲所述应该是可信的。由此可见，霍元甲不是因为误伤日本柔道家而被日本医生用药毒死，而是因原患咯血症转剧送医院医治无效而死。”
无论是下毒的外因说还是病死的内因说，霍元甲有病都是一个事实，因为没有病就不需吃药，不吃药就不会中毒。在外因说里面，日本医生秋野要下毒，也是趁霍元甲有病要吃药的机会做的小动作。
2000年，新华网天津8月6日发过一则专电，对霍元甲是因病而死一说给予反驳，这则专电指出：“霍元甲之孙霍文廷，日前与天津市西青区文化局有关同志，经过深查细访，进一步证实日本人是杀害霍元甲的元凶。近几年来，社会上 有人提出‘日本人是霍元甲的好朋友，曾为霍元甲治病出了不少力。霍元甲是因生病正常死亡的’。霍氏家族历来就知道他们的先辈霍元甲是死于日本人之手，在上世纪80年代给霍元甲迁坟时曾查验过遗骨，发现遗骨全部为黑色，证明确实为中毒死亡，因此对于有人为日本人开脱，他们从家族和民族感情上都难以接受。从去年开始，霍元甲之孙、现居住在天津市西青区小南河村的霍文廷老人，会同西青区文化局的同志，多次到上海、广东、浙江等省市霍元甲曾经活动过的武林会馆，走访调研，并翻阅了大量资料，证实所谓霍元甲的日本朋友，正是杀害霍元甲的元凶。日本人以帮助霍元甲治病为名，买通关节，在中药中投放慢性烂肺药，使本来可以治好病的霍元甲死于非命。”