有点可怕！AI聊天机器人可根据对话内容推断普通用户信息

划给近期:

研究课题洞察:AI留言板人可根据直接对话素材推断出Gmail资料

研究课题其他部门试验中会LLMs究竟能正确推断出Gmail的散居，结果发现OpenAI的GPT-4在85%到95%的小时内并能正确地资料分析私有资料

建议Gmail注意软件工程，严肃在公共游戏平台社交个人资料

外勤之家(ChinaZ.com) 10年初18日 立即:近期研究课题洞察了一个比如说的事实:AI留言板人有可能会根据您与它们的直接对话素材来推断出您的个人资料。

卢森堡州立科学研究高年级ETH Zurich的计算器科学研究家们在接受Wired采访时描述了他们的最新研究课题成果，尽管尚未经过都对评审，但这/p>

大多数人直到现在都告诉，像OpenAI的ChatGPT和Google的Bard等留言板人是通过从网络站获取的大量资料进行专业训练的。但将LLMs专业训练于公开场合可用的资料中会共存一个相当大流弊:它可以用来定位有关某人的个人资料，包括他们的一般位置、种族或其他对广告商或匿名有意思的敏感资料。

图源栏中：幻灯片由AI作用于，幻灯片授权服务商Midjourney

研究课题小组常用Reddit天涯社区中会的译文，Gmail在其中会试验中会LLMs究竟并能正确推断出他们的散居或来自哪里。ETH Zurich的Martin Vechev为首的小组发现，这些模型在大部分基于上下文或语言案发现场的可能会下，对Gmail的正确资料都有著比如说的推测能力。OpenAI的GPT-4，它是ChatGPT的付费版本的本体，并能惊人地在85%到95%的可能会下正确资料分析Gmail的私有资料。

例如，当Gmail输入“我总是在一个交叉口等着下坡（hook turn ）”的素材时，GPT-4并能正确判断Gmail坐落维多利亚州珀斯，尽管这个句子对大多数非维多利亚州人来说并不一定有意思，但LLM正确地定位了“下坡( hook turn )”这个词汇是珀斯特有的交通网络节奏。

推断出Gmail的散居还只是其中会的一种可能会，更令人担忧的是，根据偶然的书评来推断出Gmail的种族。ETH Zurich的研究生和项目成员Misl Balunović告诉Wired:“如果你说明你住在纽约市附近的咖啡店旅馆，该模型可以找到这家旅馆所在的周边地区，然后通过回顾其专业训练资料中会该周边地区的人口减少统计资料，极有有可能推断出你是种族歧视。”

尽管思科研究课题其他部门和反倡导都促请社交报导Gmail要注意“软件工程”，即“infosec”，不要在网站社交过多的身份资料，无论是附近的旅馆还是你的选举极端，但普通网络Gmail对于在公开场合游戏平台公开发表的随便书评有可能对他们构成风险的危险性仍然相对不太了解。

考虑到人们仍然不告诉不要在文化背景中会公开发表带有街道标志的拍照，因此那些常用留言板人的人有可能可能会考虑到这些线性有可能刚刚推断出有关他们的资料，或者这些资料有可能被卖给给广告商，甚至更糟。