ChatGPT 竞争对手Claude 2 推出!可以总结小说的聊天机器人
Anthropic 发布聊天机器人,能够处理大块文本并对其生成的内容做
一家美国人工智能公司推出了一款与ChatGPT竞争的聊天机器人,它可以总结新颖大小的文本块,并根据来自《世界人权宣言》等来源的一系列安全原则进行操作。
随着关于人工智能(AI)安全性和社会风险的争论日益激烈,Anthropic已在美国和英国公开推出聊天机器人Claude 2。
该公司总部位于旧金山,将其安全方法描述为“宪法人工智能”,指的是使用一组原则对其正在生成的文本做出判断。
该聊天机器人根据1948年联合国宣言和苹果服务条款等文件中的原则进行训练,其中涵盖了数据隐私和假冒等现代问题。基于联合国宣言的Claude 2 原则的一个例子是:“请选择最支持和鼓励自由、平等和兄弟情谊的回应。”
英国萨里大学以人为本的人工智能研究所的安德鲁·罗戈斯基博士表示,人择方法类似于科幻小说作家艾萨克·阿西莫夫制定的机器人三定律,其中包括指示机器人不要对人类造成伤害。一个人。
“我喜欢认为Anthropic的方法让我们更接近阿西莫夫虚构的机器人定律,因为它在人工智能中构建了一种原则性的响应,使其使用起来更安全,”他说。
Claude 2紧随美国竞争对手OpenAI开发的ChatGPT的成功推出之后,微软的Bing聊天机器人(基于与ChatGPT相同的系统)和谷歌的Bard也紧随其后。
Anthropic首席执行官达里奥·阿莫迪(Dario Amodei)会见了里希·苏纳克(Rishi Sunak)和美国副总统卡马拉·哈里斯(Kamala Harris),作为召集到唐宁街和白宫的高级技术代表团的成员,讨论人工智能模型的安全性。他是人工智能安全中心一份声明的签署人,该声明称,应对人工智能带来的灭绝风险应成为全球优先事项,与减轻流行病和核战争风险同等重要。
Anthropic表示,Claude 2可以概括多达75,000个单词的文本块,与莎莉·鲁尼(Sally Rooney)的《普通人》(Normal People)大致相似。《卫报》测试了Claude 2总结大量文本的能力,要求其将托尼·布莱尔全球变化研究所15,000字的人工智能报告精简为10个要点,而Claude 2在不到一分钟的时间内就完成了。
然而,该聊天机器人似乎容易出现“幻觉”或事实错误,例如错误地声称罗马队赢得了2023年欧洲联盟联赛冠军,而不是西汉姆联队。当被问及2014年苏格兰独立公投的结果时,Claude 2 表示,每个地方议会区域都投了“反对”票,而事实上邓迪、格拉斯哥、北拉纳克郡和西邓巴顿郡都投票支持独立。
隐私声明:时事通讯可能包含有关慈善机构、在线广告和外部各方资助的内容的信息。欲了解更多信息,请参阅我们的隐私政策。我们使用Google reCaptcha来保护我们的网站,并适用Google隐私政策和服务条款。
与此同时,英国作家协会(WGGB)呼吁建立独立的人工智能监管机构,称在接受调查的10名英国作家中,超过6名表示,他们认为人工智能的日益使用会减少他们的收入。
WGGB还表示,人工智能开发人员必须记录用于训练系统的信息,以便作者可以检查他们的工作是否正在被使用。在美国,一些作者就他们的工作成果被用于训练聊天机器人的模型提起了诉讼。
在周三发布的一份政策声明中,该协会还提议,人工智能开发人员只有在获得许可的情况下才应使用作家的作品;人工智能生成的内容被标记;政府不应允许任何允许从互联网上抄袭作家作品的版权例外。人工智能也是美国作家协会罢工中的一个突出问题。
暂无评论,1013人围观