深度思维为AI生成文本“打水印”
来源:电信频道-新浪科技 发布日期:2024-10-29
科技日报讯(记者张梦然)最新一期《自然》杂志发表的一篇论文称,谷歌深度思维团队开发了一种能为大语言模型生成文本添加水印的工具,可提高对合成内容的鉴别和追溯能力。大语言模型(LLM)是广泛使用的人工智能(AI)工具,能为聊天机器人、文章写作和其他目的生成文本。不过,人们很难识别并追溯AI生成文本的来源,使信息的可靠性受到质疑。水印被认为能解决这一问题,但生产系统对质量和计算效率的严格要求阻碍了其规模化应用。深度思维团队此次利用一种全新采样算法,开发出一个给AI生成文本添加水印的系统——SynthID-Text。该工具通过采样算法对LLM的词汇选择进行巧妙偏移,插入一个能被相关检测软件识别的签名。这既可以通过一种“扭曲”路径实现(能提高水印质量但会轻微影响输出质量),也可以通过另一种能保留文本质量的“非扭曲”路径实现。深度思维已在多个公开模型上评估了这些水印的可检测性,结果显示,SynthID-Text的可检测性优于当前其他方法。他们还用GeminiLLM的近2000万次在线对话,评估了这些文本的质量,最终认为非扭曲水印形式不会降低文本质量。此外,使用SynthID-Text对LLM运行所需算力的影响可忽略不计,从而减少了应用上的障碍。该研究证明,为生成式文本添加水印是可行的,其可提高AI使用的责任和透明度。
理想汽车人事变动!李想直接管销售服务业务,马东辉接替沈亚楠任总裁苹果发布iOS 18.1正式版:通话录音终于上线Lululemon Q3营收同比增长28% Q4指引不及预期好市多 Q1营收不及预期 净销售额同比增8%SEC建议:美国公司应向投资者披露对加密资产市场的风险敞口联想海外起诉中兴专利侵权引热议:5G标准不给华为投票一事又被翻出中国手机新三巨头诞生!华为升至第二 第一太稳了三星电子第三季度晶圆代工全球市占率15.5%一图看懂蔚来、小鹏、理想汽车2022年第三季度财报马斯克否认“黑历史”:我才不是非法劳工!
OPPO Find X8神似iPhone!刘作虎:就是想转化苹果用户神舟十九号航天员出征转运车 首次由丰田考斯特换成红旗车队:车牌八个字联想海外起诉中兴专利侵权引热议:5G标准不给华为投票一事又被翻出雷军:小米15系列涨价依旧超值 全系12GB起卖手机违法?印尼禁止销售iPhone 16!但旅客可携带入境国内油价将于11月6日24时开启调整:每升预计下调4-5分每辆亏6.6万又如何!曝有小米汽车门店单月利润超200万:比手机赚钱鸿蒙智行周末两天大定超6000台:“三驾马车”格局已成中国手机新三巨头诞生!华为升至第二 第一太稳了蜂巢能源叫停欧洲运营 300亿投资搁浅 当地企业也不好过