焦點(diǎn)消息！ChatGPT所有者OpenAI推出工具來檢測人工智能生成的文本

時(shí)間：2023-02-01 08:13:10

【資料圖】

IT之家 2 月 1 日消息，人工智能研究初創(chuàng)公司 OpenAI 周二推出了一個(gè)工具，旨在弄清文本是人類還是計(jì)算機(jī)寫的。

OpenAI 是 ChatGPT 背后的公司，ChatGPT 是一個(gè)聊天機(jī)器人，可以根據(jù)提示生成像是人類寫的文字，在兩個(gè)月前發(fā)布后迅速走紅。上周微軟宣布對(duì) OpenAI 進(jìn)行數(shù)十億美元的投資，并表示將把這家初創(chuàng)公司的人工智能模型納入其面向消費(fèi)者和企業(yè)的產(chǎn)品。

自從 ChatGPT 在 11 月首次亮相以來，包括紐約市在內(nèi)的一些美國最大的學(xué)區(qū)已經(jīng)禁止了這種人工智能聊天機(jī)器人，因?yàn)樗鼈儞?dān)心學(xué)生會(huì)利用文本生成器作弊或剽竊。

OpenAI 的首席執(zhí)行官 Sam Altman 說，過去在計(jì)算器等技術(shù)出現(xiàn)后，教育已經(jīng)發(fā)生了變化，但他也表示，該公司可能有辦法幫助教師發(fā)現(xiàn)人工智能編寫的文本。

OpenAI 的這個(gè)新工具并不完美，該公司稱其仍然在研發(fā)優(yōu)化中，使用過程中可能會(huì)出錯(cuò)。“在我們對(duì)英語文本的‘挑戰(zhàn)集’的評(píng)估中，我們的分類器正確地將 26% 的人工智能寫的文本（真陽性）識(shí)別為‘可能是人工智能寫的’，而將人類寫的文本錯(cuò)誤地標(biāo)記為人工智能寫的占 9%（假陽性），”O(jiān)penAI 員工寫道。

新工具在分析包含少于 1000 個(gè)字符的文章方面并不可靠，而且 OpenAI 不建議將其用于英語以外的語言。此外，來自人工智能的文本可以稍作更新，就會(huì)使分類器不能正確判斷它不是人類的作品。

OpenAI 表示，它正在與教育工作者接觸，討論 ChatGPT 的能力和局限性，并將繼續(xù)致力于檢測 AI 生成的文本。

IT之家了解到，早在 2019 年，OpenAI 就明確表示，識(shí)別人工智能合成的文本不是一件容易的事。OpenAI 員工稱：“我們?cè)跈z測人工智能生成的文本方面的工作將繼續(xù)進(jìn)行，我們希望在未來分享改進(jìn)的方法。”

關(guān)鍵詞：人工智能 chatgpt openai

延伸閱讀:

版權(quán)聲明：
凡注明來網(wǎng)絡(luò)消費(fèi)網(wǎng)的作品，版權(quán)均屬網(wǎng)絡(luò)消費(fèi)網(wǎng)所有，未經(jīng)授權(quán)不得轉(zhuǎn)載、摘編或利用其它方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明"來源：網(wǎng)絡(luò)消費(fèi)網(wǎng)"。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
除來源署名為網(wǎng)絡(luò)消費(fèi)網(wǎng)稿件外，其他所轉(zhuǎn)載內(nèi)容之原創(chuàng)性、真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，請(qǐng)讀者僅作參考并自行核實(shí)。

熱文