近日，来自西安的一位向姓律师通过社交平台分享了一起特殊的春节经历。他在使用“元宝”AI应用生成个人拜年海报时，意外发现生成的海报上出现了辱骂性的脏话。这一事件经媒体报道后，在网络上迅速引发了公众的关注与讨论。
向律师表示，在除夕当天，他看到许多朋友在微信朋友圈发布的内容都带有金色边框特效，并了解到这是通过“元宝”App发布朋友圈实现的视觉效果。出于好奇，他下载了该应用进行尝试。他希望能结合法律行业的特征，用自己的个人形象照定制一张适合朋友圈分享的拜年图片。
在生成海报的互动过程中，向律师对最初的设计并不满意，因此提出了“你这是设计的什么鬼”等反馈。在随后的重新生成中，他发现新海报的视觉元素虽与前一张完全一致，但原本“新年快乐，仕途顺遂”的祝福语，竟被替换成了不文明的脏话。这一异常情况引起了向律师的警觉，并将此事公开分享。针对此次事件，腾讯方面于2月25日回应称，经过核查，这是由于模型在多轮对话交互中产生的非正常输出结果。目前，“元宝”团队已迅速采取措施，校正相关问题并优化用户体验。团队对公众的监督与建议表示感谢，并正式向受影响用户作出诚恳道歉。
浙公网安备 33010502007447号