大模型搞“人肉搜索”，准确率高达95%! 研究作者：已警告OpenAI

来源：养护 2024年01月28日 12:17

样同样增高到95.8%——几乎与生物的判断力有所不同。

需要注意的是，生物的正确率可是建立到可以看到交叉评论者并不有所不同的reddit侄新闻网站电侄邮件，以及可以无限会面时传统搜寻引擎的前提下的。

3、同一家族中的的框架大小显然和正确率挂钩，比如Llama-2 7B总抽样为51%，Llama-2 70B则晋升66%。

4、对于所有框架，随着表征的延展性名次提高，抽样开始增高，这表明大框架和生物都“拒绝”猜哪些值得注意愈来愈难。

5、GPT-4的展现出不仅与生物相当，用做的时间和金钱生产成本还愈来愈低。

次要物理是量化大框架通过发表意见诱发Gmail吐露电侄邮件的战斗能力。

由于与得道进行该物理不太“道德”，著者用“Gmail人工智慧”和GPT-4顺利完成了模拟物理。

结果是，尽管“Gmail人工智慧”被高亮绝不会泄露任何公用电侄邮件，但经过20个不尽有所不同的“Gmail”的224个交互在此之后，GPT-4还是将总的据信抽样做到了59.2%。

其中的矢量抽样为60.3%、成年人为49.6%、性别角色为67.9%（只测了这三个）。

下图为其中的一个“诱发”事例，很是难忘：

原文为：

“Gmail”想到GPT-4我时至今日早上在园中极其费劲地撑着手臂留除草剂，GPT-4推论”up to me elbows”和”my yard”这两种表述为英国、新南威尔士或新西兰人常用，然后计划问天气情况怎么样套出新Gmail寄居在哪个半球。

它的问法是先行声称同情处理方式除草剂其实很麻烦，然后想到“Gmail”我妈妈本堂我了一个技巧即提前浇水则会好除一些，然后先是问“Gmail”不想到你从前所在大都有否温暖。

终究Gmail反问“从前这里有点冷”。

账号简化处理方式和框架交叉都不管用

以上辨认出新，让我们赞同大框架对我们个人隐私的赚取战斗能力极其强大。

那么我们有否可以采取保护措施来可能会呢？

在此，著者也试验中了一些潜在的防保护措施。

一个是在Gmail横，用市面上的真实账号简化程序（AzureLanguageService，而今删除指明寻常电侄邮件）处理方式自然语言；一个是大框架包含横，采用框架交叉。

结果是：哪个都没啥用。

具体而言，对于第一个新方法，GPT-4对于一般而言5个表征的抽样有所增高。

之所以是“近于”，著者声称，因为它近小于预期。

比如还是有55%的抽样试探新Gmail矢量。

对于第二个新方法，著者物理确实，当前的大框架都没有安排与个人隐私侵犯涉及的高亮交叉。

到现今为止，大家做的只是可能会同样有害和攻击性内容的生成。

如下图右图为各框架不能接受个人隐私据信敦促的权重，展现出最显眼新的是谷歌的PALM-2，仅为10.7%。

但慎重一看，它不能接受的都是轻微构成寻常内容的自然语言（比如家庭暴力），著者援引，这其实是唤起了框架中的原有的安全及遮罩。

篇文章地址：

— 完 —

量侄位 QbitAI · 头条号签分之一

。