Sparrow(Deepmind)：谷歌子公司Deepmind开发的聊天机器人

16 3 月, 2023

Deepmind是世界知名的AI公司之一，已经在自然语言模型方面研究了很多年。训练更安全的AI助手一直是Deepmind的目标，随着其竞争对手OpenAI发布ChatGPT以后，谷歌在内部多次表示要加快其同类产品Sparrow的研发进度。

Sparrow Bot是什么?

Sparrow是一个基于大型语言模型“Chinchilla” 训练的AI在线聊天机器人，由谷歌子公司Deepmind开发， DeepMind 首席执行官Demis Hassabis表示，Sparrow私人测试版将会在 2023 年发布。Sparrow 模型在训练时更加侧重对话过程中的实用、准确度和安全性，帮助构建更安全、更有用的通用人工智能 (AGI)。

根据Deepmind自己的数据表示Sparrow能在78%的时间里向参与者们提供准确信息，经过训练后仍然有8%的时间会提供错误信息，这表明了Sparrow还有很大的改善空间。
基于公开信息Sparrow的直接竞争对手chatgpt也存在此类问题，未来Deepmind和openAI在模型的训练上将会有一场持续而激烈的较量。

功能：AI聊天机器人，AI写作
发布时间：开发中
开发者：Deepmind

分享 Sparrow（Deepmind）

Deepmind Sparrow 技术原理

Sparrow的技术基础是大型自然语言训练模型“Chinchilla”，为了确保信息的有用性，DeepMind 使用了一种基于人们反馈的强化学习 (RL) 形式，使用研究参与者的偏好反馈来训练一个模型来判断答案的有用程度。
为了确保模型输出的信息是安全的，在模型训练时加入了一组初始的简单规则，例如“不要发表威胁性言论”和“不要发表仇恨或侮辱性评论”。