WebGPT：可以使用搜索结果回答问题的新一代自然语言模型

WebGPT经过训练后可以回答 ELI5（一种“像我五岁一样解释”subreddit 中收集的开放式问题数据集） 中的问题，OpenAI的公告说：我们训练了三种不同的模型，对应三种不同的推理时间计算预算。 我们表现最好的模型产生的答案在 56% 的时间里比我们的人类演示者所写的答案更受欢迎，并且具有相似的事实准确性。 尽管这些是用于训练模型的同一类演示，但我们能够通过使用人工反馈来改进模型的答案，从而超越它们。（原文：We trained three different models, corresponding to three different inference-time compute budgets. Our best-performing model produces answers that are preferred 56% of the time to answers written by our human demonstrators, with a similar level of factual accuracy. Even though these were the same kind of demonstrations used to train the model, we were able to outperform them by using human feedback to improve the model’s answers.）