亚马逊AWS以新聊天机器人和AI安全措施吸引企业客户

路透社11月28日消息，亚马逊正试图通过为企业提供新的聊天机器人，以及提供防范人工智能输出可能带来的法律和声誉损害的服务，吸引大型企业客户使用其AWS云计算服务。

这款名为Q的新聊天机器人，旨在通过帮助员工总结重要文档和支持票据，并通过Slack等通讯应用进行聊天，以提高生产力。

该公司在周二拉斯维加斯举行的年度云计算会议上宣布，该软件还可以自动更改企业的源代码，加快开发进程。

在OpenAI的ChatGPT问世大约一年后，这款新软件发布，引发了对生成式AI初创公司的投资热潮。Alphabet和其它公司也宣布了他们自己的聊天机器人，这些机器人可以与用户进行类似人类的对话，帮助完成日常任务。

在亚马逊在拉斯维加斯举行的年度云计算会议上，AWS首席执行官亚当·塞利普斯基（Adam Selipsky）宣布了一项针对生成式AI应用中，令人反感内容的新保障措施，名为Bedrock Guardrails。

他说，该服务允许用户过滤掉有害内容。

由于生成式AI是基于公开可用内容进行训练的，因此用户提示的结果中可能会出现攻击性词汇或其他令人反感的内容。

这对于年轻用户来说尤其成问题，在全球冲突期间或选举期间，生成式AI在搜索结果中的输出可能会影响观点。

安全倡导者警告说，生成式AI可能会失控，输出越来越危险的内容，或在没有监督的情况下操作整个系统。

特别是，他们担心软件会在诸如X和Facebook等社交媒体网站上发布有影响力且令人信服的内容。

塞利普斯基表示，新服务对于客户来说很重要，因为他们可以根据自己的需要对使用的生成式AI设置限制。

他说：“例如，一家银行可以配置在线助手以避免提供投资建议。或者，为了防止不当内容，一家电子商务网站可以确保其在线助手不使用仇恨言论或侮辱性言辞。”

作为对企业的吸引力之一，亚马逊表示Q聊天机器人将为企业提供限制，以便它可以防止不应该访问敏感数据的员工获取这些数据。定价将从每用户每年20美元开始。

会议上，亚马逊还宣布，将对客户基于误用版权材料而引起的诉讼提供赔偿。

例如，今年早些时候，库存摄影公司Getty Images起诉Stability AI，指控其未经许可从其网站抓取图片。

亚马逊表示，Bedrock Guardrails目前处于有限预览阶段。

这家总部位于西雅图的公司没有提供有关其赔偿政策的额外细节。