腾讯元宝致歉拜年海报出现“脏话”：模型异常输出导致 已紧急校正并优化 ...

上海老5

　　在东方财富看资讯行情，选东方财富证券一站式开户交易
　　元宝又“骂人”了？

　　最近，有网友在社交平台分享一则今年春节期间的经历——使用元宝生成个人拜年海报，但生成的海报中却出现了颇为难听的脏话。
　　2月25日，澎湃新闻记者获悉，针对用户反映使用元宝生成拜年海报时出现辱骂文字一事，元宝团队回应：经核实，该情况是由模型在多轮对话中处理上下文时产生的异常输出导致。目前，元宝团队已紧急校正相关问题并优化了模型体验，同时向用户郑重致歉，感谢社会各界的监督与建议。
　　这似乎不是元宝第一次“发火”：此前有网友在社交平台发帖称，“用元宝改代码被辱骂+乱回”，据网友表示，使用腾讯元宝AI美化代码时，多次收到AI的侮辱性回复，例如“滚”“自己不会调吗”“天天浪费别人时间”等。截图显示，用户仅提出常规修改需求，AI却突然表现出攻击性。
　　当时腾讯元宝官方账号在评论区回复称，“非常抱歉给您带来不好的体验，先打个包票：元宝绝对是纯纯的AI，没有真人回复！针对这个问题，我们也尽快排查定位，给您一个反馈。您看可以在APP提交下日志吗？我们排查下。方便的话，辛苦您在【设置】-【意见反馈】填写简单反馈-【打开”允许上传日志“】，提交就可以啦。”
　　1月3日，腾讯元宝官方账号在评论区回复，“非常抱歉给您带来了不好的体验，我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”
　　腾讯元宝表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，这也是元宝持续需要改进的地方。针对这个问题元宝也启动了内部排查和优化，会尽量避免类似情况。“感谢大家的反馈与提醒，再次向您致歉！”
　　今年春节档AI大战火热历历在目，此前几家AI大厂分别交出春节档阶段性互动成绩单，战果可圈可点：2月18日，据腾讯披露，腾讯元宝分10亿现金红包活动告一段落，目前元宝日活跃用户（DAU）超5000万，月活跃用户（MAU）已达1.14亿。
　　据活动报告显示，元宝春节主会场累计抽奖次数超36亿次，用户通过“创作”栏完成AI任务超10亿次，此外元宝还披露了新计划：正月初五用户在元宝派内聊天，元宝会随机掉落红包。
　　2月16日，字节跳动旗下AI助手豆包与央视总台春晚联动，豆包方面披露，除夕当天豆包AI互动总数达19亿。春节场景下的AI图片生成、拜年祝福等玩法吸引用户参与。数据显示，“豆包过年”活动在除夕帮助用户生成超过5000万张新春主题头像、生成超过1亿条新春祝福。
　　2月23日，据千问发布数据显示，春节期间，用户在千问上“一句话下单”近2亿次，全国平均每10人就有1人在千问下单，春节期间，用户让千问下单购买了超3000吨鸡蛋，5500万杯奶茶和3516万杯果茶，咖啡销量也达到1138万杯。
　　全新妙想投研助理，立即体验
（文章来源：澎湃新闻）

牛牛妈

那么问题来了，是谁教他的脏话呢？

周天财

滚，吃饱了撑的

牛牛妈

可能是程序员在代码里有写这些

Ds寳唲耶Ye

@妙想 这种情况是不是算力不足，没有完成有效的模型训练？$东方国信(SZ300166)$

周天财

滚”