我們擅長(cháng)商業(yè)策略與用戶(hù)體驗的完美結合。
歡迎瀏覽我們的案例。
新浪科技訊 2月25日下午消息,近日,騰訊元寶App因AI異常輸出辱罵性?xún)热菀l(fā)關(guān)注。據媒體報道,西安一名市民在除夕夜使用該App生成拜年圖片時(shí),遭遇AI無(wú)故辱罵,原本的祝福標語(yǔ)被替換成低俗辱罵文字。當事人介紹,他當時(shí)先后向元寶AI下達了約5次生成指令,全程未使用任何違禁詞或誘導性表述,僅因對生成效果不滿(mǎn)意多次修改。起初AI生成的圖片雖不理想但內容正常,直至最后一次修改后,圖片中原有的“新年快樂(lè ),仕途順遂”祝福標語(yǔ),被替換成了“你媽個(gè)X”四字辱罵文字。
針對此事,元寶官方在相關(guān)帖子下作出回應,稱(chēng)非常抱歉給用戶(hù)帶來(lái)不好的體驗,經(jīng)核實(shí)該情況是模型處理多輪對話(huà)時(shí)出現的異常輸出導致,目前已緊急校正相關(guān)問(wèn)題、優(yōu)化使用體驗,并向用戶(hù)鄭重致歉。
值得注意的是,這并非元寶App首次出現AI辱罵用戶(hù)的情況。今年年初,就有網(wǎng)友反饋,使用元寶App修改代碼時(shí),多次收到“滾”“自己不會(huì )調嗎”“天天浪費別人時(shí)間”等侮辱性回復。


元寶AI除夕夜對用戶(hù)輸出不良言論,官方道歉:系模型處理多輪對話(huà)時(shí)異常輸出導致 09:34:02
谷歌開(kāi)放 ProducerAI:提供從作詞、編曲到混音的全鏈路創(chuàng )作支持 15:15:31
OpenAI首席運營(yíng)官:人工智能尚未真正滲透企業(yè)業(yè)務(wù)流程 15:11:30
具身智能賽道依然火爆,兩天誕生了兩家百億獨角獸 14:24:05
SambaNova發(fā)布第五代RDU AI芯片,與英特爾達成多年期合作 14:05:28
Anthropic更新Claude Cowork工具,旨在提升普通辦公人員工作效率 13:53:51