Snapchat的MyAI聊天机器人获得新的安全功能

自从 Snapchat将ChatGPT 功能引入他们的“我的人工智能”工具以来，已经过去了一个多月，用人工智能生成的回复来回答用户的问题。该公司承认对聊天机器人可能被滥用的担忧，并宣布了旨在使其更安全的更改。

为了评估潜在有害内容的严重性，并在 Snapchat 用户滥用服务时暂时撤销他们对 My AI 的访问权限，Snapchat 已将 Open AI 的审核技术添加到其现有工具包中。

此外，该公司还为 My AI 实施了一个新的年龄信号，该信号使用 Snapchatter 的生日，这样即使 Snapchatter 从未在对话中告诉 My AI 他们的年龄，聊天机器人在进行对话时也会始终将他们的年龄考虑在内。

在接下来的几周内，Snapchat 将为父母提供更多关于他们的孩子如何与 My AI 互动的信息。这意味着父母可以通过 Family Center 检查他们的孩子是否以及多久与 My AI 互动。