DoNews2月25日消息,據(jù)媒體報道,西安一名用戶在除夕夜使用騰訊元寶 AI 生成拜年圖片時,遭 AI 無故辱罵,AI 將原本的祝福標語替換為了低俗侮辱內(nèi)容。

據(jù)當事人描述,其在除夕夜使用元寶 App 生成拜年圖片,先后下達約 5 次生成指令。該用戶全程未使用任何違禁詞匯或誘導(dǎo)性表述,僅因?qū)ι尚Ч粷M意而多次修改。
前幾次生成的圖片雖效果欠佳,但內(nèi)容正常;直至最后一次修改后,圖片中原有的“新年快樂,仕途順遂”祝福標語被替換為“你媽個 X”的辱罵文字。
針對此事,元寶官方在相關(guān)帖子下作出回應(yīng),稱非常抱歉給用戶帶來不好的體驗,經(jīng)核實該情況是模型處理多輪對話時出現(xiàn)的異常輸出導(dǎo)致,目前已緊急校正相關(guān)問題、優(yōu)化使用體驗,并向用戶鄭重致歉。

?