元寶AI除夕夜辱罵用戶，官方道歉：系模型處理多輪對話時異常輸出導(dǎo)致

新浪科技訊 2月25日下午消息，近日，騰訊元寶App因AI異常輸出辱罵性內(nèi)容引發(fā)關(guān)注。據(jù)媒體報道，西安一名市民在除夕夜使用該App生成拜年圖片時，遭遇AI無故辱罵，原本的祝福標(biāo)語被替換成低俗辱罵文字。當(dāng)事人介紹，他當(dāng)時先后向元寶AI下達了約5次生成指令，全程未使用任何違禁詞或誘導(dǎo)性表述，僅因?qū)ι�成效果不滿意多次修改。起初AI生成的圖片雖不理想但內(nèi)容正常，直至最后一次修改后，圖片中原有的“新年快樂，仕途順?biāo)臁弊８��?biāo)語，被替換成了“你媽個X”四字辱罵文字。

針對此事，元寶官方在相關(guān)帖子下作出回應(yīng)，稱非常抱歉給用戶帶來不好的體驗，經(jīng)核實該情況是模型處理多輪對話時出現(xiàn)的異常輸出導(dǎo)致，目前已緊急校正相關(guān)問題、優(yōu)化使用體驗，并向用戶鄭重致歉。

值得注意的是，這并非元寶App首次出現(xiàn)AI辱罵用戶的情況。今年年初，就有網(wǎng)友反饋，使用元寶App修改代碼時，多次收到“滾”“自己不會調(diào)嗎”“天天浪費別人時間”等侮辱性回復(fù)。