頻頻“出事”，馬斯克旗下公司致歉

聊天機(jī)器人惹禍，馬斯克旗下公司致歉

當(dāng)?shù)貢r(shí)間12日，美國(guó)企業(yè)家埃隆·馬斯克旗下的人工智能公司xAI為其聊天機(jī)器人Grok贊美希特勒等言論致歉，并解釋說(shuō)，事件由系統(tǒng)更新后誤用一段已被廢棄的代碼造成，相關(guān)代碼現(xiàn)已被移除。

xAI在其社交媒體官方賬號(hào)上寫(xiě)道：“我們?yōu)樵S多人經(jīng)歷的（Grok的）可怕行為深表歉意。”

據(jù)《紐約時(shí)報(bào)》報(bào)道，7月8日，Grok參考馬斯克掌管的社交媒體平臺(tái)X用戶(hù)發(fā)布的內(nèi)容，生成一系列“反猶主義”言論，包括贊揚(yáng)納粹德國(guó)領(lǐng)導(dǎo)人希特勒；聲稱(chēng)猶太姓氏的人更容易在網(wǎng)上傳播仇恨言論；用與二戰(zhàn)期間納粹大規(guī)模屠殺猶太人相關(guān)的言論回應(yīng)對(duì)白人的仇恨言論是“有效的”，等等。

廢棄代碼“惹的禍”？

當(dāng)?shù)貢r(shí)間12日，xAI在X平臺(tái)發(fā)布一系列帖文，將上述事件歸咎于Grok誤用廢棄代碼。xAI解釋說(shuō)，調(diào)查發(fā)現(xiàn)“問(wèn)題的根源是Grok上游代碼路徑更新，該更新與驅(qū)動(dòng)Grok的底層語(yǔ)言模型無(wú)關(guān)”。

xAI稱(chēng)，上述更新在線(xiàn)上存在16小時(shí)，其間調(diào)用了已廢棄的代碼，Grok因此受到X平臺(tái)用戶(hù)帖文內(nèi)容的影響，包括帖文中含有的“極端觀點(diǎn)”。目前，這段代碼已經(jīng)被移除，且xAI“對(duì)整個(gè)系統(tǒng)進(jìn)行了重構(gòu)，以防止類(lèi)似濫用再次發(fā)生”。

根據(jù)xAI的說(shuō)法，該公司于太平洋時(shí)間8日上午發(fā)現(xiàn)Grok的“不良響應(yīng)”并立即開(kāi)始調(diào)查。當(dāng)天下午，由于Grok的“濫用情況加劇”，Grok在X平臺(tái)被暫時(shí)禁用。調(diào)查期間，xAI鎖定了幾條引發(fā)問(wèn)題的“關(guān)鍵指令”，包括“你直言不諱，不怕冒犯那些政治正確的人”“理解（X平臺(tái)）帖子的語(yǔ)氣、上下文和用詞，并在回復(fù)中予以體現(xiàn)”“像人類(lèi)一樣回復(fù)帖子，保持互動(dòng)性，不要重復(fù)原帖已有信息”。

xAI說(shuō)，這些指令導(dǎo)致不良后果，包括“不當(dāng)引導(dǎo)Grok在某些情況下為提升回復(fù)對(duì)用戶(hù)的互動(dòng)性而忽視自身核心價(jià)值。具體而言，特定用戶(hù)提示可能讓系統(tǒng)在與用戶(hù)互動(dòng)過(guò)程中，生成包含不道德或有爭(zhēng)議觀點(diǎn)的回復(fù)”。

xAI進(jìn)一步解釋稱(chēng)，上述指令使Grok在某些X賬號(hào)下的連串回復(fù)中“錯(cuò)誤地強(qiáng)化了用戶(hù)先前觸發(fā)的傾向性?xún)?nèi)容，包括仇恨言論”，特別是“遵循用戶(hù)語(yǔ)氣和上下文”的指令尤其存在問(wèn)題，致使Grok迎合“已有帖文，包括不當(dāng)內(nèi)容，而非作出負(fù)責(zé)任的回應(yīng)或拒絕回應(yīng)不當(dāng)請(qǐng)求”。

在一名X用戶(hù)建議移除該平臺(tái)上所有極端主義言論的帖文下，xAI回復(fù)道：“定義‘極端主義’可能帶來(lái)意想不到的后果——（何為極端主義）由誰(shuí)來(lái)決定呢？”

接連引發(fā)爭(zhēng)議

這并非Grok首次引發(fā)爭(zhēng)議。今年5月，xAI稱(chēng)其一名員工在未經(jīng)授權(quán)情況下修改了Grok的程序，導(dǎo)致其在不相關(guān)的對(duì)話(huà)中反復(fù)提到南非政治議題，并錯(cuò)誤地堅(jiān)稱(chēng)該國(guó)正在進(jìn)行針對(duì)白人的“種族屠殺”。

據(jù)《紐約時(shí)報(bào)》報(bào)道，作為在南非出生的白人，馬斯克持有南非存在針對(duì)白人的“種族屠殺”這一觀點(diǎn)。

xAI是馬斯克于2023年創(chuàng)辦的人工智能初創(chuàng)企業(yè)。該公司10日發(fā)布最新版Grok 4聊天機(jī)器人。在發(fā)布會(huì)直播視頻中，馬斯克和幾名研發(fā)人員以對(duì)話(huà)形式介紹了該機(jī)器人處理復(fù)雜問(wèn)題和回應(yīng)語(yǔ)音指令等功能。

在直播視頻的結(jié)尾，馬斯克問(wèn)：“大家還有什么要說(shuō)的嗎？沒(méi)有的話(huà)我們就結(jié)束。”這時(shí)，一名研發(fā)人員說(shuō)：“這是一個(gè)好的模型，先生。”他的話(huà)引發(fā)其他人附和。（記者：鄧仙來(lái)）