Why would anyone upload medical data to Elon's X?
09:16 Share

那么，当像埃隆·马斯克这样的科技大佬鼓励用户将他们的医学影像上传给人工智能工具Grok时会发生什么？Grok会革新诊断技术还是会带来严重的隐私风险？隐私专家们对这项在X平台上的新实验发出警告。过去几周，X平台用户一直在上传个人医学扫描，例如X光、核磁共振和CT扫描。

Grok是一个由马斯克公司开发的人工智能聊天机器人，它正在尝试解读医学数据。用户似乎渴望测试Grok，声称它有望在解读医学数据方面表现出色。但这一举动引发了隐私倡导者、医疗专业人员和人工智能专家的激烈辩论。

马斯克推出了Grok，这是一个先进的人工智能系统，旨在提供快速、机智且有时具有挑衅性的答案。它利用X平台的实时知识，于2023年末首次亮相，到2024年中期，Grok已经能够处理复杂的视觉输入，包括医学影像。马斯克鼓励上传健康扫描为其功能增添了新的维度，但也加剧了审查。

与在医院和研究人员的合作下开发的传统医学人工智能系统不同，Grok是在公共社交媒体数据上训练的，这引发了伦理担忧。马斯克将Grok定位为一个工具，供用户寻求初步分析或第二意见。马斯克表示，虽然这还处于早期阶段，但Grok已经相当准确，并且会变得非常出色。这种开放性吸引了普通人和专业人士，他们都很好奇人工智能是否能与人类专业知识相媲美。

用户反馈显示结果差异很大。一些人赞扬Grok能够识别疾病。一位用户说，如果它检查出我的脑瘤，那还不错。

而另一些人则指出了Grok的错误，例如将骨折的肱骨误认为脱臼的肩部。医生也测试了该工具，来自杰克逊实验室的免疫学家注意到，在调整输入提示后，Grok取得了成功。他描述了Grok对X光诊断的回应，称其非常全面和令人印象深刻。

其他人，例如纽约大学影像学专家兼研究员劳伦·科克博士，对用一组乳腺影像测试Grok的结果不太满意。他报告说，Grok没有做出任何准确的诊断。

在一个案例中，人工智能将明显的癌症肿块误认为是其他疾病。目前，人工智能方法在医学影像中的表现仍然有待提高。科克博士表示。

马斯克邀请用户分享敏感的医学数据引发了隐私专家的强烈反对。上传到Grok的医学信息不在健康保险可移植性和责任法案（HIPAA）的保护范围内。HIPAA涵盖医疗专业人员、提供者和保险人及其合作伙伴处理的数据，但不适用于社交媒体平台或其关联的人工智能工具。

生物医学信息学教授布莱恩·马兰批评了与Grok共享数据的随意性。他说：“将个人信息发布到Grok就像把数据扔出去，希望公司会按照我们的意愿行事。”访问隐私政策显示，虽然该公司不销售用户数据，但会与相关实体共享信息。

这种含糊性加剧了人们对数据如何被使用的担忧。宾夕法尼亚大学医学伦理学副教授马特奥·伊表示，作为个人用户，我是否会感到舒服地贡献健康数据？绝对不会。

在X等平台上共享健康信息会创建永久的数字足迹，可能导致意想不到的后果。例如，如果显示出早期埃尔西汉巴病症状的宠物皮肤图像与用户的在线身份相关联，那么这些数据可能会被未来的雇主甚至住房协会利用。虽然《基因信息非歧视法案》等法律提供了一些保护，但生命保险提供商等实体仍然存在漏洞。

此外，还有Grok自身如何使用这些数据的问题。该公司声称用户控制着他们的输入是否被用于改进人工智能，但专家警告说，大多数用户缺乏充分理解或管理设置的技术能力。即使有安全措施，数据泄露或滥用的风险仍然存在，超越了隐私问题，Grok的医学准确性仍然是一个紧迫的问题。

专家强调，训练强大的医疗保健人工智能需要高质量、多样化的数据集，并与医疗专业人员进行深入合作。如果没有这些要素，人工智能系统可能会产生不可靠甚至危险的结果。

约翰·霍普金斯大学医学学习与医疗保健实验室主任苏奇·斯里亚将未经训练的人工智能工具比作业余化学家，在厨房水槽中缺少成分。她说，如果用户根据不准确的诊断采取行动，可能会导致不必要的检查或治疗，从而造成潜在的危害。

阿里亚博士还强调了将像Grok这样的人工智能整合到关键系统中的巨大挑战，其中严格的验证和遵守道德准则至关重要。但是，Grok之类的工具可能会在未来增强工作场所。

目前的状态缺乏关键医疗保健应用所需的精确性。Grok已引起欧洲监管机构的关注。隐私监管机构已将该工具标记为可能违反《通用数据保护条例》（GDPR）的工具。

爱尔兰数据保护委员会最近向法院提出申请，要求阻止X使用社交媒体数据来训练Grok，理由是担心数据收集做法。美国政府官员也对Grok在传播信息中的作用表示担忧。

美国甚至要求X将与选举相关的查询转交给可信来源。马斯克对这些批评的回应是轻蔑的。8月份，X（原推特）人工智能团队称欧洲监管机构的行动是不必要的，并捍卫了让用户决定是否共享数据的决定。

与人工智能行业的其他公司不同，我们选择为所有X用户提供一个简单的开关，让用户控制数据共享。该公司表示，将自己定位为用户自主权的捍卫者。马斯克对人工智能的兴趣不仅限于Grok，还包括其他项目，例如Neuralink，其目标是融合人类智能和技术。Neuralink最近获得了FDA批准，用于开发一种脑机接口，旨在恢复失明者的视力。

这些发展表明，马斯克致力于将人工智能置于医疗保健创新的前沿。然而，尽管取得了这些进步，马斯克的做法经常与伦理担忧相冲突。他长期以来对人工智能存在的风险的警告与他推广Grok等工具形成鲜明对比，批评人士认为这些工具是在缺乏充分审查的情况下部署的。目前，Grok提供了诱人的可能性，但也存在重大风险。

用户在上传敏感的医学数据之前应谨慎行事，尤其是在隐私和准确性方面存在不确定性。随着工具的不断发展，它可能会成为更可靠的资源。但目前，它仍然是一个具有严重伦理和实践局限性的实验平台。

非常感谢大家收听今天的节目。我真的很感谢你们的支持。请花几秒钟点击订阅或关注这个播客平台，以便不错过任何一期节目。每期节目持续不到十分钟，方便大家快速了解。如果您想进一步支持这个节目，请访问petron.com/stagezero。请照顾好自己，我们明天再见。