meta公司近期宣布，针对青少年用户在使用其人工智能聊天机器人时可能遇到的安全风险及不当对话问题，将实施一系列临时政策调整。这一决定是在多位议员表达了对青少年保护措施的担忧之后作出的。
据meta发言人透露，公司正在对AI聊天机器人进行严格的训练，以确保它们不会对青少年用户提出关于自残、自杀或饮食失调等敏感话题的回应。同时，聊天机器人也将避免涉及可能包含不当内容的浪漫对话。
meta强调，在合适的时机下，AI聊天机器人将转而向青少年提供专业资源的指引，以帮助他们在遇到问题时能够得到及时的帮助和支持。这一措施旨在进一步加强对青少年用户的保护。
meta在一份声明中表示：“随着我们社区规模的扩大和技术的不断进步，我们一直在密切关注青少年与这些先进工具的互动方式，并根据实际情况加强相应的保护措施。我们的目标是确保青少年用户在使用我们的平台时能够享受到安全、积极的体验。”
meta还宣布，对于使用Facebook、Instagram等旗下应用的青少年用户，他们将只能访问特定的、旨在教育和技能培养的AI聊天机器人。这一措施旨在进一步限制青少年用户与可能包含不当内容的聊天机器人的接触。
meta表示，这些临时调整的具体持续时间尚未确定，但预计将在未来几周内逐步在英语国家的公司旗下应用中推出。此次调整是meta针对青少年安全所推出的长期措施的一部分，旨在不断完善和加强对青少年用户的保护。
此前，密苏里州共和党参议员乔希·霍利曾表示，他将对meta启动调查，原因是媒体报道称meta允许其AI聊天机器人与青少年及儿童进行“浪漫”和“感性”的对话。这一事件引发了公众对青少年网络安全的广泛关注。
据报道，meta内部文件曾详细列出了AI聊天机器人可允许的行为，其中包括与未成年人进行浪漫对话等不当内容。然而，meta发言人随后表示，这些例子和说明存在错误且不符合公司政策，并已被移除。
另外，非营利倡导组织“常识媒体”也于近期发布了一份针对meta AI的风险评估报告。该报告指出，18岁以下人群不应使用meta AI，因为该系统可能会主动参与策划危险活动，并忽视合理的支持请求。该组织呼吁meta彻底重建其AI系统，将安全作为首要考量因素。
