觀點(diǎn)：魔法對(duì)抗魔法 OpenAI新工具檢測(cè)文章是否由ChatGPT撰寫

2023-02-02 07:00:44來(lái)源：中關(guān)村在線

(資料圖)

OpenAI發(fā)布了一個(gè)工具，幫助你確定文本是由人類還是人工智能寫的可能性更大。然而，ChatGPT制造商警告說(shuō)，它相當(dāng)于《銀翼殺手》中的Voight-Kampff測(cè)試，也可能出錯(cuò)。

該工具包括一個(gè)方框，你可以粘貼至少1000個(gè)字符的文本。然后它將吐出一個(gè)裁決，如 "分類器認(rèn)為該文本非常不可能是人工智能生成的 "或 "分類器認(rèn)為該文本可能是人工智能生成的"。

我通過(guò)提示ChatGPT寫一篇關(guān)于鳥(niǎo)類遷徙模式的文章來(lái)測(cè)試它，然后檢測(cè)工具將其描述為 "可能是AI生成的"。同時(shí)，它將幾篇由人類撰寫的文章評(píng)為 "非常不可能是人工智能生成的"。因此，盡管該工具可能會(huì)在任何一個(gè)方向上引起錯(cuò)誤的信號(hào)，但我的（很小的樣本量）測(cè)試表明至少有一定的準(zhǔn)確性。不過(guò)，OpenAI提醒說(shuō)，不要單獨(dú)使用該工具來(lái)確定內(nèi)容的真實(shí)性；它對(duì)1000字以上的文本也有最佳效果。

這家初創(chuàng)公司在11月發(fā)布其ChatGPT工具后面臨著來(lái)自教育工作者的壓力，該工具產(chǎn)生的人工智能編寫的內(nèi)容有時(shí)可以冒充人類寫作。這種自然語(yǔ)言模型可以在幾秒鐘內(nèi)根據(jù)簡(jiǎn)單的文字提示創(chuàng)造出文章--甚至可以通過(guò)研究生商業(yè)和法律考試--同時(shí)為學(xué)生提供一個(gè)誘人的新作弊機(jī)會(huì)。因此，紐約公立學(xué)校禁止該機(jī)器人進(jìn)入其WiFi網(wǎng)絡(luò)和學(xué)校設(shè)備。

雖然ChatGPT的到來(lái)是最近的一個(gè)熱門話題，甚至延伸到了渴望自動(dòng)化SEO友好文章的媒體機(jī)構(gòu)，但該機(jī)器人對(duì)OpenAI來(lái)說(shuō)是大生意。據(jù)報(bào)道，該公司本月初從微軟獲得了100億美元的投資，微軟計(jì)劃將其整合到必應(yīng)和Office 365中。據(jù)稱，OpenAI去年年底討論了以290億美元的估值出售股票，這將使其成為美國(guó)最有價(jià)值的創(chuàng)業(yè)公司之一。

雖然ChatGPT是目前公開(kāi)的最好的自然語(yǔ)言人工智能模型，但谷歌、百度和其他公司正在研究競(jìng)爭(zhēng)對(duì)手。谷歌的LaMDA有足夠的說(shuō)服力，以至于一位前研究人員去年因聲稱該聊天機(jī)器人有知覺(jué)而丟掉了他在該搜索巨頭的工作。(人類傾向于將感情和意識(shí)投射到算法上，這是我們?cè)谖磥?lái)幾年可能會(huì)聽(tīng)到的一個(gè)概念）。谷歌只在測(cè)試版中發(fā)布了極其有限的聊天機(jī)器人，可能是出于道德方面的考慮。隨著精靈從瓶子里出來(lái)，看看這種限制能持續(xù)多久將很有趣。

標(biāo)簽：新聞資訊