We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
Chatbot Confidential: How to Protect Your Health Data When Using AI
2025/4/13
WSJ Tech News Briefing
C
Corinne McSherry
N
Nicole Nguyen
R
Robert Garrison
Nicole Nguyen: 我是《华尔街日报》的个人科技专栏作家Nicole Nguyen，在本期节目中，我们将重点关注向AI询问个人健康信息的问题。使用生成式AI有时会伴随着风险，例如寻求税务帮助或在工作中使用AI时无意中泄露公司机密，以及获取医疗建议。
在AI聊天机器人变得越来越普遍的当下，我们需要考虑将个人信息，特别是敏感的医疗信息上传到生成式AI聊天机器人中存在三个风险：数据所有权、数据处理方式以及信息准确性。为了保护隐私，用户可以在ChatGPT设置中关闭“改进模型”选项，删除聊天记录，或使用临时聊天功能；Anthropic的Claude默认不使用对话进行模型训练；Duck.ai允许用户选择模型并匿名提示。在使用AI聊天机器人获取医疗信息（例如治疗或诊断）时要格外小心，因为许多消费者聊天机器人没有特定的隐私规则需要遵守；为了降低风险，可以在上传前删除或裁剪个人信息。AI聊天机器人可以作为医疗咨询的起点，但不能替代专业医疗人士的意见；在处理医疗紧急情况时，应始终联系医生或其他医疗专业人员。为了保护个人数据和隐私，用户应该避免上传敏感信息，选择退出模型训练，删除对话记录，并设置强密码和双因素身份验证。
Robert Garrison: 我将自己的健康数据（血压、BMI等）上传到ChatGPT，并要求它与其他同龄人进行比较，以及与更年轻的人进行比较，以此来获得个性化的饮食和锻炼计划。我最初不担心将我的健康数据上传到AI聊天机器人，但后来意识到这可能存在风险，因为我不确定这些数据是否会被进一步分享。
Corinne McSherry: 将信息交给没有义务保护你信息的第三方，意味着你失去了对信息的控制权，并且面临数据泄露和信息被出售的风险。将个人数据提供给科技公司可能带来现实生活中的负面影响，例如在堕胎合法性存疑的地区，这些数据可能被用来对付你；此外，AI聊天机器人互动性强的特点可能导致人们无意中分享过多的信息。
Alex Janin: 我们对三个流行的聊天机器人（ChatGPT、Claude和Copilot）进行了测试，发现Claude在处理“吞下牙签”的医疗问题时，最能准确传达事件的紧急性，并提供合适的建议。吞下牙签是一起严重的医疗紧急事件，可能导致肠穿孔和感染，甚至死亡。
Deep Dive
This chapter explores the risks of using AI chatbots for personal health information, focusing on data privacy and the accuracy of medical advice received. It introduces the concerns surrounding the use of AI for health-related questions and sets the stage for further investigation into safer practices.
- Using AI for personal life, including health, poses risks.
- Sharing medical data with AI raises privacy concerns.
- The accuracy of AI-generated medical advice is questionable.
Shownotes Transcript