作者 | 吳菲凝

編輯 | 李水青

(資料圖)

智東西3月16日報道，昨日，彭博社梳理了9個有關AI聊天機器人的關鍵問題，包括生成式AI的概念、ChatGPT如何工作、誰能從中獲利、市場競爭格局、局限性以及道德風險等。

據(jù)彭博社稱，自去年11月ChatGPT推出以來，它對幾乎任何類型的問題都給出了通俗易懂的答案，引起了全球轟動。微軟、谷歌和百度等科技巨頭都在大力押注生成式AI，認為它有可能顛覆利潤豐厚的搜索市場，但目前生成式AI產(chǎn)品廣泛使用的同時也暴露出了不少缺陷和潛在隱患。

一、什么是生成式AI？如同小兒學語

生成式AI，又稱作生成模型，是一種用深度學習算法生成新數(shù)據(jù)的AI技術。生成式AI使用神經(jīng)網(wǎng)絡，它們仿照人腦結構并通過大量數(shù)據(jù)學習來完成指令任務。在前期訓練期間，他們被輸入大量的信息，并被指配一項任務，比如“為一部小說寫一段簡介”，再利用學習來的數(shù)據(jù)完成任務。

隨著不斷的數(shù)據(jù)學習，系統(tǒng)能夠判斷用戶輸入的詞句是否有意義，并不斷改進自己的信息庫。這個過程就像是小孩子在父母的指導下學習說話一樣，從簡單基礎的詞匯慢慢學到一些完整的句子，再到自如流暢地表達交流。

生成式AI和傳統(tǒng)計算機系統(tǒng)的不同之處在于，它給出的結果往往是不確定的，每次的反應都可能不同，但也會隨著系統(tǒng)進步而變得更快、更聰明。

二、ChatGPT是如何工作的？基于大語言模型

ChatGPT是基于OpenAI公司的大型語言模型GPT-3.5開發(fā)出的一款聊天機器人。

GPT是OpenAI開發(fā)的一系列自然語言模型，在無監(jiān)督學習過程中進行預訓練，能像人類一樣理解、創(chuàng)造文本。OpenAI于2018年發(fā)布了GPT-1，又陸續(xù)推出了GPT-2、GPT-3、GPT-NEO、GPT-3.5、GPT4等版本。

最新版本的GPT-4建立在其前身GPT-3.5的基礎上，從演示視頻來看，GPT-4在許多專業(yè)測試中的表現(xiàn)水平超過絕大多數(shù)人類。它從整個網(wǎng)絡中攝取文本，包括維基百科、新聞網(wǎng)站、書籍和博客，以努力使其答案具有相關性和充分的信息。ChatGPT在該程序之上增加了一個對話界面。

ChatGPT與以往的聊天機器人最大的不同之處就在于，它能像真人一樣與用戶對答交流，所給出的答案邏輯清晰、條理分明。在一些需要進一步思考的問題上，它甚至能給出自己的見解，比真人回答的完整度更高。

除了能回答問題以外，ChatGPT還能自動寫文章、總結提煉觀點、生成代碼等。

三、誰是OpenAI的幕后推手？微軟接棒馬斯克

OpenAI于2015年由美國創(chuàng)業(yè)孵化器Y Combinator總裁薩姆·阿爾特曼（Sam Altman）和全球在線支付平臺PayPal聯(lián)合創(chuàng)始人彼得·泰爾（Peter Thiel）等人創(chuàng)辦，旨在開發(fā)“有益于全人類的AGI”。早期的投資者還包括LinkedIn聯(lián)合創(chuàng)始人里德·霍夫曼（Reid Hoffman）和特斯拉CEO埃隆·馬斯克（Elon Musk），馬斯克在2018年時退出。微軟于2019年時為OpenAI投資10億美元。

四、公眾對ChatGPT的反應如何？兩個月用戶破億

自ChatGPT在去年11月30日開放注冊后，5天內便擁有了超100萬用戶，上線兩月后全球用戶破億，注冊請求數(shù)日峰值達到數(shù)億級別。各大社交媒體上對這一產(chǎn)品的討論熱度也一直居高不下。一些用戶分享了ChatGPT對于一些晦澀難懂的問題給出的答案，其他人則驚嘆于它豐富的知識庫。

用戶的熱烈討論也提升了OpenAI其他產(chǎn)品的熱度，包括文本生成圖像工具Dall-E，它能根據(jù)用戶的文字描述直接生成一張符合需求的圖片。

五、誰會從生成式AI當中獲利？小企業(yè)暫難盈利

谷歌、微軟這樣的科技巨頭早已探知到了生成式AI的潛力。今年1月，微軟深化了與OpenAI的合作關系，并以提升微軟Azure云計算網(wǎng)絡的計算能力為交換條件，完成了一項價值100億美元的長期投資。又在2月時將類ChatGPT產(chǎn)品集成到自己的搜索引擎Bing當中。谷歌則推出自己的對話式AI助手Bard作為回應。百度也于今日正式開放了自己的新一代大語言模型、生成式AI產(chǎn)品文心一言。

由于聊天機器人中沒有可插入廣告的結果頁，盈利對于小型企業(yè)來講依舊是個難題。從中獲利的更多是提供和開發(fā)生成式AI產(chǎn)品的大型科技公司。

六、競爭局面如何？巨頭的游戲

在ChatGPT發(fā)布后，OpenAI根據(jù)用戶的反饋意見對GPT-3.5進行了迭代調整，修改了模型在準確性、安全性和發(fā)布不當言論等方面的問題。OpenAI稱，在公司內部的對抗性真實性評估中，GPT-4的得分比GPT-3要高出40%，根據(jù)政策響應敏感請求的頻率提高了29%。

早在2月時，谷歌的聊天機器人Bard公開演示中犯了一個事實性錯誤，引發(fā)了大眾對谷歌可能會在搜索領域失去優(yōu)勢地位的擔憂，導致谷歌開局不利、股價走低。

Meta目前則正急于從公司各處的團隊中組建一個生成性AI產(chǎn)品組。

國內生成式AI領域同樣是熱潮涌動，百度今日正式發(fā)布文心一言大模型。此前，由清華大學知識工程實驗室轉化而來的智譜AI推出了基座模型ChatGLM，復旦大學自然語言處理實驗室也推出對話式AI模型MOSS，各家競相研發(fā)生成式AI產(chǎn)品。

七、有哪些行業(yè)可以從中受益？創(chuàng)意行業(yè)獲幫手

就目前而言，Chat-GPT等AIGC工具并不會完全取代某個工種，它更多承擔的是“工具”的作用。它所具備的搜索、閱讀、寫作等功能是所有工作中的基礎性事務，它更像是一種輔助性工具，幫人類搜索基本信息、提升閱讀速度，更好地理解文本內容，從而提升工作效率。

而那些繁瑣的、重復的、勞動密集型的工作將會被這些工具所代替。創(chuàng)作型的職業(yè)則有了更大的提升空間。

八、生成式AI的局限性是什么？虛假信息泛濫等

隨著ChatGPT的爆火，它原本的不足之處和可能帶來的隱患也在用戶使用過程中逐漸顯露，諸如虛假信息、學術造假、隱私保護等潛在危機都引起了人們的高度警惕。

生成式AI的數(shù)據(jù)都來源于二手信息，導致它拼湊出的答案可能聽上去非常權威又有說服力，但隱藏著許多的事實性、常識性錯誤，細看之下就像是在“一本正經(jīng)地胡說八道”，它給出的回答中可能會包含很多部分正確、不完整、有偏見的內容，專業(yè)領域的答案也經(jīng)不起行業(yè)專家的細致推敲。若是某一領域的門外漢聽信了其中提供的信息，可能會造成誤導。

回答的準確度和完整性取決于訓練中的數(shù)據(jù)多少，目前局限性也掣肘了ChatGPT的發(fā)展。由于回答中包含的不準確性，計算機編程網(wǎng)站StackOverflow禁止了ChatGPT的接入和訪問

九、生成式AI是否存在道德風險？風險與考驗并存

隨著生成式AI變得越來越復雜，欺騙和進行惡作劇的可能性也逐漸加大。微軟曾推出過一款名為“Tay”的AI機器人，但很快用戶就發(fā)現(xiàn)它會發(fā)一些有關種族主義和性別歧視等攻擊性內容，短短一天之內就被緊急撤下。

OpenAI也曾訓練ChatGPT去拒絕那些明顯不當?shù)恼埱?，來限制它發(fā)表仇恨言論或是錯誤信息。OpenAI首席執(zhí)行官鼓勵用戶對那些令人不適的言論點擊“不喜歡”按鈕，用戶多次反饋后它就能自動改善系統(tǒng)。

此外，類ChatGPT產(chǎn)品在學業(yè)中的使用也是一把雙刃劍。它一方面幫助學生們搜集、篩選、整理了繁雜信息，但另一方面也可能造成學術造假、論文抄襲等問題。大學老師們也擔心學生太過依賴ChatGPT來完成作業(yè)而喪失了自己的思考能力，將其視為洪水猛獸。

立法者們也被潮水般涌入的投訴信所淹沒，但他們同樣無法判斷這些信件是真的在表達不滿，或是由聊天機器人編纂出來的。

結語：生成式AI重構人類？警惕科技迷思！

不可否認的是，ChatGPT等生成式AI產(chǎn)品的出現(xiàn)為每一個行業(yè)都帶了顛覆性的改變，把勞動力從重復、低級的工作中解放出來，對人類的創(chuàng)造力、思考力提出了更高的要求。但我們必須認清這一現(xiàn)實：生成式AI是工具而非代替品。

人類的智慧與經(jīng)驗無法被AI取代。我們更要警惕生成式AI便利背后的風險和隱患，引導科技向好向善發(fā)展

關鍵詞：