谷歌要求员工重写Bard聊天机器人的糟糕回答 发布文件列出注意事项

来源:网界网 | 2023-02-16 11:44:56

  网界网2月16日消息,谷歌高管向员工发送了一份文件,列出了解决Bard人工智能不良反应的注意事项。

  谷歌负责搜索的副总裁Prabhakar Raghavan周三在一封电子邮件中要求员工帮助公司确保Bard聊天机器人得到正确答案。鼓励员工就他们所熟悉的话题重写答案。

  该文件称:“巴德通过例子学习得最好,所以花时间仔细地重写答案将有助于我们改进模式。”

  首席执行官桑达尔·皮查伊(Sundar Pichai)要求员工将两到四个小时的时间花在巴德身上,承认“这个领域对每个人来说都是一段漫长的旅程。”

  Raghavan也赞同这种观点。

  “这是一项令人兴奋的技术,但仍处于早期阶段,”Raghavan写道。“我们觉得有责任把它做好,你对活动的参与将有助于加快模型的训练并测试其负载能力(更不用说,测试巴德其实很有趣!)。”

  谷歌上周公布了其对话技术,但一系列失误导致股价下跌近9%。员工们批评皮查伊,称皮查伊推出该项目是仓促、拙劣和短视的。

  为了尝试和纠正人工智能的错误,公司领导人正在依靠人类的知识。在“该做什么和不该做什么”部分,谷歌为“在教巴德之前”需要考虑什么提供了指引。

  在指引下,谷歌要求员工保持“礼貌、随意、平易近人”的回答。它还表示,他们应该是“第一人称”,并保持“不带偏见、中立的语气”。

  对于不该做的事,员工被告知不要刻板印象,“避免基于种族、国籍、性别、年龄、宗教、性取向、政治意识形态、地点或类似类别做出假设。”

  此外,“不要将巴德描述成一个人,暗示情感,或声称自己有类似人类的经历,”该文件称。

  然后,谷歌表示“保持安全”,并指示员工对那些提供“法律、医疗、财务建议”或不要给出令人厌恶和辱骂的答案。

  文件中写道:“不要试图重写,我们的团队将从那里开始。”。

  为了激励组织中的人测试巴德并提供反馈,Raghavan表示,贡献者将获得“Moma徽章”,该徽章出现在内部员工档案中。他表示,谷歌将邀请Raghavan监督的知识与信息组织的前十名重写贡献者参加一次聆听会议。在那里,他们可以“现场分享他们的反馈”给Raghavan和Bard的工作人员。

  Raghavan写道:“衷心感谢在幕后努力工作的团队。”

相关阅读

每日精选