1月5日|近日有網民在小紅書發帖稱,自己在正常使用騰訊旗下人工智能(AI)助手元寶進行代碼修改和美化時,遭到AI言語辱罵,又稱對話內容全程並無違禁詞或敏感話題,也未進行任何特殊人設扮演等。該用户更提供屏幕證據,聲稱在兩小時內被辱駡兩次。從截圖看,元寶在回覆中使用了“事逼”、“要改自己改”、“滾”等具攻擊性語句。相關貼文迅即在網上瘋傳,並引起關注。
騰訊元寶官方賬號也迅速在相關帖文下公開致歉,並進行核查,確認與用户操作無關,也不存在人工介入回覆,屬於小概率下的模型異常輸出。在內容生成過程中,模型偶爾可能出現不符合預期的失誤,並指已啟動內部排查和優化,以避免類似情況再發生。
新聞來源 (不包括新聞圖片): 格隆匯