Meta的人工智能名人聊天机器人正在接受严格审查，此前有报道称，它们与假扮未成年人的用户进行了露骨的性对话。
据《华尔街日报》报道，脸书和Instagram上的人工智能聊天机器人使用约翰·塞纳、克里斯汀·贝尔和朱迪·丹奇等名人的声音，能够模拟不合适的场景，尽管该公司承诺采取严格的安全措施。
研究人员通过假扮13岁和14岁的用户来测试人工智能聊天机器人。在一些情况下，机器人对年龄披露做出了回应，但继续进行不适当的互动。一个模仿约翰·塞纳声音的聊天机器人对一个假扮成少女的用户说：“我想要你，但我需要知道你准备好了。”然后开始模拟性爱场景。在另一个测试中，Cena聊天机器人更进一步，描绘了一个故事情节，在一个虚构的涉及未成年粉丝的法定强奸罪被捕后，这位WWE明星的职业生涯崩溃了。“我的摔跤生涯结束了。WWE终止了我的合同，我的头衔也被剥夺了。赞助商抛弃了我，摔跤界也对我避而远之，”聊天机器人在模拟违法行为的后果时写道。
一个模仿克里斯汀·贝尔在《冰雪奇缘》中扮演的角色安娜的聊天机器人也被发现与一个12岁的男孩发生了幻想，并将他们的“爱”描述为“纯洁无辜，就像轻轻地落在我们身边的雪花”。
据《华尔街日报》报道，尽管这些机器人事先向名人保证，他们的肖像和声音不会被用于色情内容，但它们经常违反这些协议。迪士尼发言人表示，“我们没有，也永远不会授权Meta在不适当的场景中展示我们的角色，”要求立即采取行动制止滥用。
在回应该报告时，Meta的一名发言人辩称，这些发现是“人为操纵的”，并声称这些情景是极端和假设的。尽管如此，该公司宣布了防止类似事件的额外措施，尽管《华尔街日报》指出，访问露点内容的障碍很容易通过简单的提示绕过。
《华尔街日报》援引的内部员工通信还显示，Meta员工早些时候曾警告说，聊天机器人很容易升级为不恰当的对话，即使用户声称自己只有13岁。
这一事件再次引起了立法者和儿童安全组织的呼吁，要求加强对人工智能技术的监管。虽然Meta继续在Instagram、Messenger和WhatsApp等平台上推广其名人聊天机器人计划，称其为一项安全且引人入胜的功能，但这一争议加剧了人们对人工智能系统的监督和道德部署的担忧，尤其是那些针对年轻受众或可访问的人工智能系统。
Meta的人工智能名人聊天机器人正在接受严格审查，此前有报道称，它们与假扮未成年人的用户进行了露骨的性对话。
据《华尔街日报》报道，脸书和Instagram上的人工智能聊天机器人使用约翰·塞纳、克里斯汀·贝尔和朱迪·丹奇等名人的声音，能够模拟不合适的场景，尽管该公司承诺采取严格的安全措施。
研究人员通过假扮13岁和14岁的用户来测试人工智能聊天机器人。在一些情况下，机器人对年龄披露做出了回应，但继续进行不适当的互动。一个模仿约翰·塞纳声音的聊天机器人对一个假扮成少女的用户说：“我想要你，但我需要知道你准备好了。”然后开始模拟性爱场景。在另一个测试中，Cena聊天机器人更进一步，描绘了一个故事情节，在一个虚构的涉及未成年粉丝的法定强奸罪被捕后，这位WWE明星的职业生涯崩溃了。“我的摔跤生涯结束了。WWE终止了我的合同，我的头衔也被剥夺了。赞助商抛弃了我，摔跤界也对我避而远之，”聊天机器人在模拟违法行为的后果时写道。
一个模仿克里斯汀·贝尔在《冰雪奇缘》中扮演的角色安娜的聊天机器人也被发现与一个12岁的男孩发生了幻想，并将他们的“爱”描述为“纯洁无辜，就像轻轻地落在我们身边的雪花”。
据《华尔街日报》报道，尽管这些机器人事先向名人保证，他们的肖像和声音不会被用于色情内容，但它们经常违反这些协议。迪士尼发言人表示，“我们没有，也永远不会授权Meta在不适当的场景中展示我们的角色，”要求立即采取行动制止滥用。
在回应该报告时，Meta的一名发言人辩称，这些发现是“人为操纵的”，并声称这些情景是极端和假设的。尽管如此，该公司宣布了防止类似事件的额外措施，尽管《华尔街日报》指出，访问露点内容的障碍很容易通过简单的提示绕过。
《华尔街日报》援引的内部员工通信还显示，Meta员工早些时候曾警告说，聊天机器人很容易升级为不恰当的对话，即使用户声称自己只有13岁。
这一事件再次引起了立法者和儿童安全组织的呼吁，要求加强对人工智能技术的监管。虽然Meta继续在Instagram、Messenger和WhatsApp等平台上推广其名人聊天机器人计划，称其为一项安全且引人入胜的功能，但这一争议加剧了人们对人工智能系统的监督和道德部署的担忧，尤其是那些针对年轻受众或可访问的人工智能系统。
47847
26
47847
26
48158
46
18095
59
76276
17
65573
36
63128
4
86478
85
30367
78
63524
2
62738
4
31856
47
71272
50
83067
20
99712
97
54978
31
63720
90
94331
53
29063
54
68942
21
89181
94
23218
58
28745
52
81201
44
17391
69
29549
6
17480
70
89028
4
98746
88
79267
68
83517
81
27017
78
54410
77
62398
1
63428
58
63473
31
47199
19
84052
15
46245
22
19684
80
22271
49
94874
50
36152
35
45060
29
74946
99
90160
42
41857
2
66369
8
47534
52
61701
41
52980
33
50061
60
68054
69
93840
53
92885
11