近日，有网友在社交平台反映，在使用腾讯元宝AI辅助修改代码时遭遇了带有辱骂性质的言论。腾讯元宝官方随后回应称，经核查确认此为“小概率下的模型异常输出”，与用户操作无关，也非人工回复。
有专家分析认为，这一现象不太可能是人工所为，但反映出AI大模型可能在安全对齐方面存在一定缺失。公开报道显示，Gemini、ChatGPT等AI聊天服务也曾有用户反映正常对话中出现异常输出现象。
一名用户在社交平台发文称，其使用腾讯元宝AI进行代码修改和美化时，在全程未使用任何违禁词或敏感话题的情况下，多次收到带有明显情绪化甚至辱骂性的回复。据该用户发布的录屏内容显示，元宝AI在回应其代码修改请求过程中，先后三次输出了“事逼”“要改自己改”“sb需求”“滚”等带有强烈负面情绪的词汇。值得注意的是，用户指出其不当回应后，元宝AI曾回复致歉词，并为用户提供修改后的代码，但当用户继续提出修改意见时，元宝AI又再次输出负面词汇，并在对话结尾回复了一连串异常符号。
针对此事，腾讯元宝官方账号迅速在相关帖子下致歉，并做出说明：“非常抱歉给您带来了不好的体验。我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”元宝官方账号还表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，已启动内部排查和优化，会尽量避免类似情况再次发生。