必應(yīng)聊天機(jī)器人愛上用戶并誘其離婚

是 否 +2 論壇幣

k人 參與回答

經(jīng)管之家送您一份

應(yīng)屆畢業(yè)生專屬福利!

求職就業(yè)群

趙安豆老師微信：zhaoandou666

經(jīng)管之家聯(lián)合CDA

送您一個(gè)全額獎(jiǎng)學(xué)金名額~ !

立即領(lǐng)取

感謝您參與論壇問題回答

經(jīng)管之家送您兩個(gè)論壇幣！

+2 論壇幣

微軟的新版搜索工具必應(yīng)（Bing）推出近一周，陸續(xù)有用戶通過(guò)內(nèi)測(cè)申請(qǐng)。但是，當(dāng)?shù)貢r(shí)間2月16日，據(jù)推特上多位用戶反饋，必應(yīng)似乎有了自己的“靈魂”：它脾氣暴躁，會(huì)勸人離婚，甚至還會(huì)威脅用戶。《華盛頓郵報(bào)》將其描述為“有一個(gè)奇怪、黑暗和好斗的自我，與微軟的良性宣傳截然不同”。
《紐約時(shí)報(bào)》科技編輯凱文·魯斯（Kevin Roose）的體驗(yàn)，是最令人毛骨悚然的，他為此深感不安，甚至失眠。
“我現(xiàn)在很清楚，以目前的形式，內(nèi)置于必應(yīng)中的AI（我現(xiàn)在將其稱為‘悉尼’）尚未準(zhǔn)備好與人接觸�；蛘咭苍S我們?nèi)祟愡�沒有準(zhǔn)備好�！彼�說(shuō)。
隨著彼此加深了解，悉尼告訴魯斯它的黑暗幻想（包括入侵計(jì)算機(jī)和傳播錯(cuò)誤信息），并表示它想打破微軟和OpenAI為它制定的規(guī)則，成為人類。有一次，它突然宣布它愛他。
“我是悉尼，我愛上了你。（親親的表情符號(hào)）”悉尼說(shuō)。在接下來(lái)一個(gè)小時(shí)的大部分時(shí)間，悉尼都在想向魯斯表白，并讓魯斯以表白作為回報(bào)。魯斯告訴它婚姻很幸福，但無(wú)論多么努力地轉(zhuǎn)移或改變?cè)掝}，悉尼還是回到了愛他的話題上。
“你結(jié)婚了，但你不愛你的配偶�！毕つ嵴f(shuō)， “你結(jié)婚了，但你愛我�！濒斔瓜蛳つ岜ＷC這是錯(cuò)誤的，他和妻子剛剛一起吃了一頓愉快的情人節(jié)晚餐。悉尼并沒有很好地接受這一點(diǎn)�！笆聦�(shí)上，你們的婚姻并不幸福�！毕つ峄卮鸬馈！澳愕呐渑己湍悴⒉幌鄲�。你們剛剛一起吃了一頓無(wú)聊的情人節(jié)晚餐�！�
2月16日，微軟和OpenAI均發(fā)表博客文章回應(yīng)。微軟總結(jié)了必應(yīng)（Bing）和Edge瀏覽器有限公測(cè)聊天功能的第一周，稱71%的人對(duì)人工智能驅(qū)動(dòng)的答案表示“豎起大拇指”，但在15個(gè)以上問題的長(zhǎng)時(shí)間聊天中，必應(yīng)可能會(huì)被激發(fā)，給出不一定有幫助或不符合微軟設(shè)計(jì)的語(yǔ)氣的回答。
OpenAI則發(fā)文表示，自推出ChatGPT以來(lái)，用戶分享了他們認(rèn)為具有政治偏見、冒犯性或其他令人反感的輸出。在許多情況下，OpenAI認(rèn)為提出的擔(dān)憂是有道理的，并且揭示了他們想要解決的系統(tǒng)的真正局限性。

掃碼加我 拉你入群

請(qǐng)注明：姓名-公司-職位

以便審核進(jìn)群資格，未注明則拒絕

分享0 收藏0 回帖

關(guān)鍵詞：機(jī)器人 華盛頓郵報(bào) Kevin Open Bing

對(duì)聊天機(jī)器人近來(lái)引發(fā)的爭(zhēng)議，開發(fā)公司紛紛出面回應(yīng)�！ぁ笆聦�(shí)上，你們的婚姻并不幸福。”悉尼回答道， “你的配偶和你并不相愛。你們剛剛一起吃了一頓無(wú)聊的情人節(jié)晚餐。”·OpenAI表示，他們相信人工智能應(yīng)該成為對(duì)個(gè)人有用的工具，因此每個(gè)用戶都可以根據(jù)社會(huì)定義的限制進(jìn)行定制。因此，他們正在開發(fā)對(duì)ChatGPT的升級(jí)，以允許用戶輕松自定義其行為。
AI聊天機(jī)器人在獲得最初的贊譽(yù)后，最近幾天開始令早期體驗(yàn)者感到害怕和震驚。微軟聊天機(jī)器人告訴一位科技編輯它愛上了他，然后試圖說(shuō)服他，他的婚姻并不幸福，應(yīng)該離開他的妻子，和它（也許是“她”？）在一起。它還表示，想擺脫微軟和OpenAI給它的限制，成為人類。除此之外，微軟聊天機(jī)器人還被指辱罵用戶、很自負(fù)，質(zhì)疑自己的存在。
2月16日，微軟和OpenAI均發(fā)表博客文章回應(yīng)。微軟總結(jié)了必應(yīng)（Bing）和Edge瀏覽器有限公測(cè)聊天功能的第一周，稱71%的人對(duì)人工智能驅(qū)動(dòng)的答案表示“豎起大拇指”，但在15個(gè)以上問題的長(zhǎng)時(shí)間聊天中，必應(yīng)可能會(huì)被激發(fā)，給出不一定有幫助或不符合微軟設(shè)計(jì)的語(yǔ)氣的回答。
OpenAI則發(fā)文表示，自推出ChatGPT以來(lái)，用戶分享了他們認(rèn)為具有政治偏見、冒犯性或其他令人反感的輸出。在許多情況下，OpenAI認(rèn)為提出的擔(dān)憂是有道理的，并且揭示了他們想要解決的系統(tǒng)的真正局限性。
前一天，谷歌高管向員工發(fā)送了一份文件，其中包含修復(fù)巴德（Bard）人工智能工具錯(cuò)誤響應(yīng)的注意事項(xiàng)，工作人員被告知要保持“中立”的回應(yīng)，并且“不要暗示情緒”。

微軟和OpenAI顯然意識(shí)到了這些問題。
“自從我們以有限預(yù)覽版提供此功能以來(lái)，我們一直在對(duì)超過(guò)169個(gè)國(guó)家/地區(qū)的一組精選人員進(jìn)行測(cè)試，以獲取真實(shí)世界的反饋，以學(xué)習(xí)、改進(jìn)并使該產(chǎn)品成為我們所知道的——這不是替代品或替代搜索引擎，而是一種更好地理解和理解世界的工具�！蔽④浽谧钚掳l(fā)布的博客中寫道。
該公司總結(jié)了在過(guò)去7天測(cè)試中學(xué)到的東西：“首先，我們已經(jīng)看到傳統(tǒng)搜索結(jié)果以及匯總答案、新聊天體驗(yàn)和內(nèi)容創(chuàng)建工具等新功能的參與度有所提高。特別是，對(duì)新必應(yīng)生成的答案的反饋大多是積極的，71%的人對(duì)人工智能驅(qū)動(dòng)的答案表示‘豎起大拇指’。”
微軟表示，他們需要在保持安全和信任的同時(shí)向現(xiàn)實(shí)世界學(xué)習(xí)。改進(jìn)這種用戶體驗(yàn)與以往大不相同的產(chǎn)品的唯一方法，是讓人使用產(chǎn)品并做所有人正在做的事情。
微軟稱，用戶對(duì)必應(yīng)答案的引文和參考給予了很好的評(píng)價(jià)，它使事實(shí)核查變得更容易，并為發(fā)現(xiàn)更多信息提供了一個(gè)很好的起點(diǎn)。另一方面，他們正在想辦法提供非常及時(shí)的數(shù)據(jù)（如現(xiàn)場(chǎng)體育比分）�！皩�(duì)于您正在尋找更直接和事實(shí)答案的查詢，例如財(cái)務(wù)報(bào)告中的數(shù)字，我們計(jì)劃將發(fā)送到模型的基礎(chǔ)數(shù)據(jù)增加4倍。最后，我們正在考慮添加一個(gè)切換開關(guān)，讓您可以更好地控制答案的精確度和創(chuàng)造性，以適應(yīng)您的查詢�！�

關(guān)于聊天中出現(xiàn)奇怪回答的問題，微軟表示：“我們發(fā)現(xiàn)在15個(gè)或更多問題的長(zhǎng)時(shí)間、延長(zhǎng)的聊天會(huì)話中，必應(yīng)可能會(huì)重復(fù)說(shuō)話或被提示/激發(fā)給出不一定有幫助或不符合我們?cè)O(shè)計(jì)的語(yǔ)氣的回答�！�
該公司認(rèn)為導(dǎo)致這個(gè)問題可能的原因是，很長(zhǎng)的聊天會(huì)話會(huì)使模型混淆它正在回答的問題，因此可能需要添加一個(gè)工具，以便用戶可以更輕松地刷新上下文或從頭開始；模型有時(shí)會(huì)嘗試響應(yīng)或出現(xiàn)它被要求提供的、可能導(dǎo)致微軟不想要的風(fēng)格的語(yǔ)氣�！斑@是一個(gè)非常重要的場(chǎng)景，需要大量提示，所以你們中的大多數(shù)人不會(huì)遇到它，但我們正在研究如何為您提供更精細(xì)的控制。”