随着深度伪造、错误信息和人工智能辅助作弊在网络和课堂上的蔓延，谷歌DeepMind周二推出了SynthID检测器。这个新工具可以扫描图像、音频、视频和文本，寻找由谷歌不断发展的人工智能模型嵌入的隐形水印。
设计用于在一个地方跨多种格式工作，SynthID检测器旨在通过识别谷歌人工智能生成的内容来带来更大的透明度，包括音频人工智能NotebookLM、Lyria和图像生成器Imagen，并突出显示最可能被水印标记的部分。
"对于文本，SynthID会查看接下来将生成哪些词，并改变适当的词选择的概率，而不会影响整体文本质量和实用性，"谷歌在演示文稿中说。
"如果一段文字包含更多首选词选择的实例，SynthID将检测到它已被水印标记，"它补充道。
SynthID在文本生成过程中调整词选择的概率分数，嵌入一个不影响输出含义或可读性的隐形水印。这个水印稍后可用于识别由谷歌Gemini应用或网络工具生成的内容。
谷歌最初在2023年8月引入SynthID水印作为检测人工智能生成图像的工具。随着SynthID检测器的推出，谷歌将这一功能扩展到包括音频、视频和文本。
目前，SynthID检测器处于有限发布状态，并为记者、教育工作者、设计师和研究人员设立了等候名单。
随着生成式人工智能工具变得越来越普遍，教育工作者发现越来越难以确定学生的作业是否原创，即使是旨在反映个人经历的作业。
使用人工智能作弊
《纽约杂志》最近的一份报告突出了这一日益严重的问题。
圣克拉拉大学的一位技术伦理教授布置了一篇个人反思论文，却发现一名学生使用ChatGPT完成了作业。
在阿肯色州小石城大学，另一位教授发现学生依赖人工智能撰写课程介绍论文和课程目标。
尽管越来越多的学生使用其人工智能模型在课堂上作弊，但OpenAI在2023年关闭了其人工智能检测软件，理由是准确率低。
"我们认识到识别人工智能写作文本一直是教育工作者讨论的重要议题，同样重要的是认识到人工智能生成文本分类器在课堂上的局限性和影响，"OpenAI当时表示。
人工智能作弊问题因像Cluely这样的新工具而变得更加复杂，这是一款旨在绕过人工智能检测软件的应用。由前哥伦比亚大学学生罗伊·李开发，Cluely可以在桌面级别规避人工智能检测。
被宣传为在考试和面试中作弊的方式，李筹集了530万美元来开发这款应用。
"在我发布了自己在亚马逊面试期间使用它的视频后，它迅速走红，"李之前告诉《Decrypt》。"在使用过程中，我意识到用户体验非常有趣——没有人探索过这种可以看到你屏幕、听到你音频并像电脑第二个玩家一样行动的半透明屏幕覆盖的想法。"
尽管有SynthID等工具的承诺，但许多当前的人工智能检测方法仍然不可靠。
在10月份，《Decrypt》对领先的人工智能检测器进行的测试发现，在Grammarly、Quillbot、GPTZero和ZeroGPT四大检测器中，只有两个能够确定美国独立宣言是由人类还是人工智能撰写的。
编辑：Sebastian Sinclair
