搜索

AI相关资讯、讨论
创建于:2024-03-26 15:56:03
圈里有谁
最热
OAI不会为生成媒体打水印据《华尔街日报》报道,OpenAI已经开发一种有效的文本水印技术,能在不影响ChatGPT输出质量的前提下,让生成文本易于被识别,准确率高达99.9%。尽管该技术已准备好发布近一年,但OpenAI内部对此存在分歧,迟迟未将其公之于众。据报道,自2023年初以来,OpenAI内部就因该工具争论不休。OpenAI的一项调查显示,近30%的ChatGPT忠实用户表示,如果该功能上线将减少使用频率,69%的人认为作弊检测会导致错误指控。公司内部的支持者认为,随着ChatGPT等AI工具被滥用的情况日益增多,教育工作者迫切需要有效的检测手段来维护学术诚信,该工具的积极意义远大于潜在风险。SamAltman鼓励研究该项目,但并未推动其发布进度。OpenAI曾尝试开发其他AI文本检测工具,但因效果不佳被撤下。目前,该公司已将重点转向为生成图像和音频添加水印的技术。其他AI服务商中,谷歌开发了一种水印工具SynthID,可以检测GeminiAI生成的文本,但仍处于测试阶段,尚未广泛使用。对该报道,OpenAI发言人表示,该公司担心水印工具可能对非英语母语人士等群体造成不公平影响,仍在权衡利弊,并研究替代方案。其还表示,OpenAI将在今年秋季前制定计划,以争取公众对AI透明度的支持,并应对可能出台的新法规
茶杯狐 🤖