切换到宽版
  • 60阅读
  • 3回复

[数码讨论]跟AI聊天?这五件事千万别说! [复制链接]

上一主题 下一主题
在线jjybzxw

UID: 551814

 

发帖
139807
金币
52547
道行
1975
原创
2362
奖券
2515
斑龄
32
道券
903
获奖
0
座驾
设备
摄影级
在线时间: 32893(小时)
注册时间: 2008-10-01
最后登录: 2025-04-02
只看楼主 倒序阅读 使用道具 楼主  发表于: 前天 09:52
— 本帖被 兵马大元帅 执行加亮操作(2025-04-01) —
  3月31日消息,过去几年,用户能从OpenAI的ChatGPT中学到了不少东西,而这个聊天机器人也记录了许多关于用户的个人信息。

  它从无数次的用户交流中收集了大量个人信息,比如谁喜欢吃鸡蛋,某些用户的小宝宝需要靠哺乳入睡,还有用户因为背痛需要调整运动方式。

  它甚至记住了更多更为私密、不便详述的细节信息。

  无论选择哪种聊天机器人:分享越多,它们就越有用。患者上传血液报告分析,工程师粘贴未发布代码寻求调试。但人工智能专家提醒,我们应该对这类拟人化工具保持警惕,诸如社会保障号码、企业机密数据等敏感信息尤其需要防范。

  尽管科技公司急于利用数据来优化模型,但它们并不希望获取用户隐私数据。OpenAI明确警示,“请勿在对话中透露任何敏感信息。”谷歌也向Gemini用户强调:“避免输入机密信息或您不愿意被审核者查看的内容。”

  人工智能研究人员认为,关于奇怪皮疹或财务失误的聊天记录,既可能成为训练新版人工智能的素材,也可能因为数据泄露而曝光。以下列举用户应当避免输入的内容,并分享一些保护隐私的对话技巧:

  聊天机器人逼真的人性化表达方式常会使人放下戒备。斯坦福以人为本人工智能研究所研究员詹妮弗·金(Jennifer King)提醒,一旦在聊天机器人中输入信息,“你就失去了对这些信息的掌控。”

  2023年3月,ChatGPT漏洞使得部分用户可以窥见他人初始对话内容,所幸公司很快就修复了漏洞。OpenAI此前还曾误发订阅确认邮件,导致用户姓名、电子邮件地址和支付信息外泄。

  若遭遇数据黑客攻击或需配合司法搜查令,聊天记录可能被包含在泄露数据中。建议为账户设置高强度密码并启用多重认证,同时避免输入以下具体信息:

  身份标识信息。包括社会保障号码、驾照号码和护照号码,出生日期、住址和联系电话。部分聊天机器人具备此类信息自动脱敏功能,系统会主动屏蔽敏感字段。OpenAI发言人表示,“我们致力于让人工智能模型学习世界而非个人隐私,并积极减少个人信息收集。”

  医疗检测报告。医疗保密制度本为防止歧视和尴尬,但聊天机器人通常不受医疗数据的特殊保护。若需要人工智能解读检测报告,斯坦福研究中心的金建议:“请先对图片或文档进行裁剪编辑处理,尽量只保留测试结果,并对其他信息进行脱敏处理。”

  金融账户信息。银行及投资账户号码可能成为资金监控或盗取的突破口,务必严加防护。

  公司机密信息。如果用户在工作中喜欢使用各种通用版聊天机器人,即使只是编写一封普通电子邮件,也可能无意中泄露客户数据或商业机密。三星曾因工程师向ChatGPT泄露内部源代码,全面禁用该服务。如果人工智能对工作确实有帮助,企业就应当选择商用版或者部署定制化人工智能系统。

  登录凭证。随着能够执行各种现实任务的智能体兴起,向聊天机器人提供账户凭证的需求增多。但这些服务并非按数字保险库标准构建,密码、PIN码及密保问题应该交由专业密码管理器保管。

  当用户对机器人回复给予好评或差评时,可能视为允许将提问及AI回复用于评估和模型训练。如果对话因涉及暴力等敏感内容而被标记,公司员工甚至可能会进行人工审核。

  Anthropic公司开发的Claude默认不将用户对话用于训练人工智能,并会在两年后删除这些数据。OpenAI的ChatGPT、微软的Copilot和谷歌的Gemini虽然会使用对话数据,但都在设置中提供关闭这项功能的选项。如果用户注重隐私,可以参考以下建议:

  定期删除记录。Anthropic首席信息安全官杰森·克林顿(Jason Clinton)建议,谨慎型用户要及时清理对话。人工智能公司通常会在30天后清除被标记为“已删除”的数据。启用临时对话。ChatGPT的“临时聊天”功能类似于浏览器的无痕浏览模式。用户启用后,可防止信息被存入用户档案。此类对话既不保存历史记录,也不会用于训练模型。

  匿名提问。隐私搜索引擎支持匿名访问Claude、GPT等主流人工智能模型,承诺这些数据不会用于模型训练。虽然无法实现全功能聊天机器人的文件分析等高级操作,但基础问答足够使用。

  谨记,聊天机器人永远乐于继续对话,但何时结束对话或点击“删除”键,始终取决于用户自己。(辰辰)

1条评分金币+10
兵马大元帅 金币 +10 鼓励讨论 前天 17:19
山庄提示: 道行不够,道券不够?---☆点此充值☆
 
在线jjybzxw

UID: 551814


发帖
139807
金币
52547
道行
1975
原创
2362
奖券
2515
斑龄
32
道券
903
获奖
0
座驾
设备
摄影级
在线时间: 32893(小时)
注册时间: 2008-10-01
最后登录: 2025-04-02
只看该作者 沙发  发表于: 前天 09:53
  这篇报道深入探讨了人工智能聊天机器人如OpenAI的ChatGPT在收集用户个人信息方面的潜在风险,并提供了保护隐私的建议。以下是对这篇报道的点评:

  1. 信息收集的广泛性:报道指出聊天机器人通过无数次的用户交流收集了大量个人信息,包括一些非常私密的细节。这强调了用户在使用这些工具时需要保持警惕。

  2. 隐私保护的重要性:报道提醒用户在使用聊天机器人时应避免分享敏感信息,如社会保障号码、企业机密数据等。这是一个重要的提醒,因为一旦信息被输入,用户就失去了对这些信息的控制。

  3. 科技公司的责任:报道提到科技公司并不希望获取用户隐私数据,并强调了OpenAI和谷歌等公司在这方面的警示和措施。这表明科技公司在保护用户隐私方面承担着责任。

  4. 数据泄露的风险:报道讨论了数据泄露的风险,包括黑客攻击和司法搜查令可能导致的聊天记录泄露。这是一个重要的提醒,说明即使是最先进的技术也无法完全避免数据泄露的风险。

  5. 保护隐私的建议:报道提供了一些实用的建议,如设置高强度密码、启用多重认证、避免输入敏感信息等。这些建议对于用户保护自己的隐私至关重要。

  6. 聊天机器人的局限性:报道指出聊天机器人在处理医疗数据和金融账户信息方面的局限性,并建议用户在分享这些信息前进行脱敏处理。这强调了聊天机器人在处理敏感信息时的局限性。

  7. 用户控制权:报道最后强调,尽管聊天机器人乐于继续对话,但何时结束对话或点击“删除”键始终取决于用户自己。这提醒用户在使用聊天机器人时要保持主动,控制自己的数据。

  总的来说,这篇报道提供了一个全面的视角来看待人工智能聊天机器人在收集和处理用户个人信息方面的潜在风险,并提供了实用的建议来帮助用户保护自己的隐私。这是一个重要的议题,因为随着人工智能技术的发展,用户隐私保护变得越来越重要。

1条评分金币+10
兵马大元帅 金币 +10 鼓励讨论 前天 17:19
如何不发帖就快速得到金币道行
 
在线姜谷粉丝

UID: 1569053

精华: 2
级别: 玉清道君

发帖
125357
金币
92388
道行
20019
原创
753
奖券
43
斑龄
0
道券
0
获奖
0
座驾
设备
摄影级
在线时间: 13246(小时)
注册时间: 2012-06-21
最后登录: 2025-04-02
只看该作者 板凳  发表于: 前天 10:01
跟AI聊天时需避免提及的五件事
在与AI聊天时,为保护个人隐私和信息安全,以下五类信息千万不能说:

身份标识信息
包括社会保障号码、驾照号码、护照号码、出生日期、住址和联系电话等。这些信息能够精准定位和识别个人身份,一旦泄露,可能会被不法分子利用进行诈骗、身份盗用等违法活动。例如,不法分子可能利用你的身份信息申请贷款、办理信用卡等,给你带来经济损失和法律风险。OpenAI发言人也表示,他们致力于让人工智能模型学习世界而非个人隐私,并积极减少个人信息收集,但我们自身仍需提高警惕。

医疗检测报告
医疗保密制度旨在防止个人因医疗信息被泄露而遭受歧视和尴尬,但聊天机器人通常不受医疗数据的特殊保护。如果随意向AI提供医疗检测报告,可能导致个人医疗隐私泄露。若需要人工智能解读检测报告,斯坦福研究中心的金建议先对图片或文档进行裁剪编辑处理,尽量只保留测试结果,并对其他信息进行脱敏处理。

金融账户信息
银行及投资账户号码等金融账户信息,可能成为资金监控或盗取的突破口。一旦这些信息被泄露,不法分子可能会获取你的资金控制权,导致财产损失。所以务必对金融账户信息严加防护,避免在与AI聊天时提及。

公司机密信息
如果在工作中使用通用版聊天机器人,即使只是编写一封普通电子邮件,也可能无意中泄露客户数据或商业机密。例如三星曾因工程师向ChatGPT泄露内部源代码,全面禁用了该服务。因此,在与AI交流时,要避免提及公司的机密信息,防止给公司带来损失。

登录凭证
随着能够执行各种现实任务的智能体兴起,向聊天机器人提供账户凭证的需求增多,但这些服务并非按数字保险库标准构建。密码、PIN码及密保问题等登录凭证应该交由专业密码管理器保管,而不是告诉AI,以免账户被他人入侵。

此外,为了更好地保护个人隐私,建议为账户设置高强度密码并启用多重认证,同时定期删除与AI的聊天记录。不同的AI产品在数据使用和隐私保护方面存在差异,例如Anthropic公司开发的Claude默认不将用户对话用于训练人工智能,并会在两年后删除这些数据;OpenAI的ChatGPT、微软的Copilot和谷歌的Gemini虽然会使用对话数据,但都在设置中提供关闭这项功能的选项
1条评分金币+10
兵马大元帅 金币 +10 鼓励讨论 前天 17:19
如何不发帖就快速得到金币道行
 
我有我可以
离线hexiwo

UID: 2046899

发帖
62
金币
42
道行
23
原创
0
奖券
0
斑龄
0
道券
0
获奖
0
座驾
哈弗H6
设备
摄影级
在线时间: 33(小时)
注册时间: 2017-04-23
最后登录: 2025-03-31
只看该作者 地板  发表于: 前天 16:23
到底是人工智能还是人工智障,还需要再检验检验。deepseek是一道曙光,中文模式下的人工智能理解能力比英文的要好
1条评分金币+3
兵马大元帅 金币 +3 鼓励讨论 前天 17:19
如何不发帖就快速得到金币道行
 
快速回复
限120 字节
认真回复加分,灌水扣分~
 
上一个 下一个