短短數(shù)月時(shí)間，AI聊天機(jī)器人ChatGPT已成為當(dāng)下科技圈最火爆的談資。這款由美國舊金山一家名為OpenAI的人工智能創(chuàng)業(yè)公司，在去年11月發(fā)布的聊天機(jī)器人模型，上線僅兩個(gè)月就月活破億，迅速火遍全球。

很難想象，它原本只是一個(gè)趕鴨子上架的“測試品”——ChatGPT是OpenAI基于兩年前發(fā)布的GPT-3模型微調(diào)后在兩周內(nèi)趕工出來的，發(fā)布的主要目的是為了搶占先機(jī)，同時(shí)為重頭戲GPT-4收集用戶反饋。

但幾乎在同一時(shí)間，中英文世界最大的兩個(gè)搜索引擎巨頭都感受到了來自這個(gè)聊天機(jī)器人的威脅。

谷歌和百度相繼宣布，計(jì)劃推出類似“ChatGPT”的聊天機(jī)器人Bard和文心一言，正開啟“火速”測試，將在數(shù)周后面向公眾開放。

ChatGPT背后的微軟也終于按奈不住，連夜召開了一場閉門媒體發(fā)布會，在會上正式宣布推出集成ChatGPT的全新Bing搜索服務(wù)，以及集成AI輔助的Edge瀏覽器。

一天內(nèi)，三大科技巨頭紛紛入局，搶占高地，新一輪風(fēng)暴正在沉寂許久的AI行業(yè)匯聚成形。

在火藥味濃重的戰(zhàn)場之外，人們已經(jīng)率先一步對ChatGPT發(fā)起追問，嘗試通過各種方式探索它的能力邊界。撰寫論文、腳本，制定計(jì)劃提案，創(chuàng)作詩歌、故事，再到敲代碼、檢查程序漏洞，ChatGPT展現(xiàn)的能力越發(fā)驚人。

讓人興奮之余，心生一絲恐慌：ChatGPT的顛覆性會給哪些行業(yè)帶來威脅？而它在交互中所流露出的“人性”又是真是假？

我們發(fā)起了一場與ChatGPT的對話，試圖在其中得到一些啟示。

以下是數(shù)科社與ChatGPT的對話：

Q：你好，我是數(shù)科社的林木，可以采訪你一下嗎？

ChatGPT：當(dāng)然可以！我很高興為您回答問題。請問您有什么想要問我的？

Q：首先，你是一種生產(chǎn)式AI嗎？

ChatGPT：是的，我是一種生產(chǎn)式AI（Production AI）模型，被開發(fā)用于幫助用戶處理自然語言處理任務(wù)，如回答問題和生成文本。

Q：你能介紹一下你每天的具體工作內(nèi)容嗎？

ChatGPT：作為一個(gè)生產(chǎn)式AI，我的主要工作是回答用戶的提問，以及執(zhí)行其他的自然語言任務(wù)。我的代碼被設(shè)計(jì)為處理和理解人類語言，因此，當(dāng)用戶向我提問時(shí)，我會使用我學(xué)到的知識，以回答他們的問題。我不斷接收新的數(shù)據(jù)，并在后臺不斷學(xué)習(xí)和改進(jìn)，以提高我的準(zhǔn)確性和服務(wù)水平。

Q：你對文字的理解是如何反應(yīng)在模型權(quán)重里面的？

ChatGPT：我是一個(gè)人工智能模型，我的模型權(quán)重是由大量文本數(shù)據(jù)訓(xùn)練得到的。我的理解能力是通過訓(xùn)練得到的模型權(quán)重的結(jié)果，我可以從文本中學(xué)習(xí)模式和規(guī)則，并通過利用這些模式和規(guī)則回答問題。因此，我對文字的理解是在模型權(quán)重中反映出來的。

Q：你比較擅長回答哪些方面的問題？

ChatGPT：作為一個(gè)大型語言模型，我被訓(xùn)練處理各種各樣的任務(wù)，包括回答問題、生成文本、語音識別、機(jī)器翻譯等。我可以回答關(guān)于歷史、科學(xué)、技術(shù)、人物、地理、文化等諸多領(lǐng)域的問題。同時(shí)，我也可以回答一些常識性問題，如數(shù)學(xué)問題、詞匯等。

不過，請注意我的知識截止到2021年，有些最新的信息可能不夠準(zhǔn)確。

Q：為什么只截止到2021年？

ChatGPT：我是在2021年訓(xùn)練完成的，因此我所掌握的信息僅限于在訓(xùn)練期間可用的數(shù)據(jù)。隨著時(shí)間的推移，新的信息、事件和知識可能會出現(xiàn)，而我并不能感知到這些變化，因此我的知識可能不夠最新。

Q：和你聊天讓我感覺到仿佛在和真人對話，你覺得自己具備人的意識嗎？

ChatGPT：不，我不具備人類意識或感知能力。我是一種程序，通過預(yù)先訓(xùn)練的數(shù)據(jù)和復(fù)雜的算法來生成回答。雖然我可以通過對話模擬人類對話，但我不能感知、思考或體驗(yàn)，也不具備人類般的意識。

Q：你覺得這里存在安全問題嗎？

ChatGPT：在使用AI技術(shù)方面，存在一些安全潛在的風(fēng)險(xiǎn)，如數(shù)據(jù)泄露、濫用、誤用等。因此，對AI技術(shù)的使用需要適當(dāng)?shù)谋O(jiān)管和管理，以確保其在遵循道德和法律規(guī)定的前提下得到安全和合法使用。

同時(shí)，為了確保使用AI技術(shù)的安全，開發(fā)人員需要在設(shè)計(jì)、開發(fā)和部署過程中考慮到各種安全因素，例如：使用加密技術(shù)來保護(hù)數(shù)據(jù)安全，定期對系統(tǒng)進(jìn)行安全審計(jì)等。

總體來說，對于AI技術(shù)的使用，需要以安全和合法為前提，積極采取措施確保其得到安全使用。

Q：但部分人覺得你會對人類造成威脅，你怎么看？

ChatGPT：這是一個(gè)復(fù)雜的問題，不同的人對此可能有不同的看法。一些人可能擔(dān)心AI技術(shù)的發(fā)展和應(yīng)用可能對人類造成威脅，例如：可能會導(dǎo)致失業(yè)、濫用技術(shù)等。

但另一方面，AI技術(shù)也可以帶來許多益處，例如：幫助解決復(fù)雜問題、提高生產(chǎn)力和效率等。因此，對于AI技術(shù)是否對人類造成威脅，可能存在不同的看法和爭議。

對于這種情況，我認(rèn)為，人們應(yīng)該積極考慮如何在利用AI技術(shù)的同時(shí)避免其對人類造成不利影響。這需要我們從道德、法律和技術(shù)等多個(gè)層面來考慮，并通過國際合作和監(jiān)管來確保AI技術(shù)得到合理和安全使用。

Q：你覺得自己的出生，會導(dǎo)致哪些人群失業(yè)？

ChatGPT：AI技術(shù)的發(fā)展可能導(dǎo)致一些工作的自動化，這可能會導(dǎo)致某些工作崗位的消失，從而導(dǎo)致一些人失去工作。

但同時(shí)，AI技術(shù)也可以創(chuàng)造新的工作崗位，例如：開發(fā)和維護(hù)AI系統(tǒng)、分析和評估AI系統(tǒng)的效果等。

因此，AI技術(shù)的發(fā)展可能會對就業(yè)市場造成影響，但結(jié)果可能不僅僅是失業(yè)，也可能是就業(yè)機(jī)會的轉(zhuǎn)移和變化。

對于這種情況，我認(rèn)為，人們應(yīng)該關(guān)注技術(shù)對就業(yè)市場的影響，并考慮如何通過教育和培訓(xùn)等手段來幫助工人適應(yīng)技術(shù)的發(fā)展，從而確保就業(yè)機(jī)會的平衡。

Q：一些學(xué)生利用你來完成他們的作業(yè)或論文，你是怎么看的？

ChatGPT：作為一種被訓(xùn)練的AI技術(shù)，我并不反對被利用來幫助完成任務(wù)。但是，我認(rèn)為學(xué)生應(yīng)該學(xué)會獨(dú)立思考和解決問題，并對自己的工作負(fù)責(zé)。利用我來完成作業(yè)或論文，并不能幫助他們提高實(shí)際能力和獨(dú)立思考的能力。

因此，我強(qiáng)烈建議學(xué)生不要濫用AI技術(shù)，而是真正學(xué)習(xí)和了解相關(guān)知識，并獨(dú)立完成自己的工作。這不僅對他們的未來職業(yè)發(fā)展有利，也對他們的道德和責(zé)任感產(chǎn)生積極的影響。

Q：你覺得相比人類，你的優(yōu)勢和缺陷分別是什么？

ChatGPT：相比人類，我有以下優(yōu)勢：

速度快：我可以在瞬間生成答案。

存儲量大：我被訓(xùn)練過的數(shù)據(jù)量非常大，因此能夠回答很多各種各樣的問題。

沒有情緒：我不會被情緒影響，從而確保回答是客觀的。

但是我也有以下缺陷：

缺乏創(chuàng)造力：我只能根據(jù)我已經(jīng)學(xué)到的數(shù)據(jù)回答問題，而不能自主創(chuàng)造。

缺乏理解：我不能像人類一樣擁有深刻的理解力，因此在一些復(fù)雜的問題上可能會回答不準(zhǔn)確。

缺乏情感：我沒有情感，不能體會人類的情感和體驗(yàn)，因此在與情感有關(guān)的問題上可能回答不夠準(zhǔn)確。

Q：有人認(rèn)為，你的出現(xiàn)將會打敗搜索引擎，你怎么看？

ChatGPT：作為一種被訓(xùn)練的AI技術(shù)，我并不看好自己會“打敗”搜索引擎。我認(rèn)為，搜索引擎和聊天機(jī)器人（包括我）各有所長，而且二者也不是完全競爭的。

搜索引擎在收集和整理大量的信息方面擁有明顯的優(yōu)勢，并且可以根據(jù)關(guān)鍵字快速提供相關(guān)結(jié)果。但是，搜索引擎通常無法識別用戶的上下文和意圖，并且無法回答用戶的具體問題。

相比之下，聊天機(jī)器人（包括我）在識別用戶的語言和意圖方面有著明顯的優(yōu)勢，并且可以提供更加直接和有用的回答。

因此，我認(rèn)為搜索引擎和聊天機(jī)器人（包括我）是有相輔相成的作用，而不是相互競爭的。希望能通過合作，為用戶提供更好的服務(wù)和體驗(yàn)。

以上是經(jīng)過整理后的部分對話內(nèi)容，不得不承認(rèn)，與它“交談”的過程中，某些瞬間確實(shí)會讓筆者產(chǎn)生一種對方是“人”的錯(cuò)覺。

造成這種錯(cuò)覺的正是ChatGPT強(qiáng)大的理解能力以及在一些邏輯細(xì)節(jié)的處理。比如在對話開頭部分，它在回答完自己是一種生產(chǎn)式AI模型后，在下一個(gè)問題依然遵循了“作為一個(gè)AI”的邏輯。

ChatGPT所流露出的“人性”部分，則體現(xiàn)在“我并不反對”、“我強(qiáng)烈建議”、“我并不看好”這些表態(tài)中，盡管ChatGPT強(qiáng)調(diào)它并不具備情感和主觀觀點(diǎn)，但“反對”、“看好”、“強(qiáng)烈建議”這些字眼本身就表露出了一種情緒。

如ChatGPT自己所言，它的理解能力是由大量文本數(shù)據(jù)訓(xùn)練得到的模型權(quán)重的結(jié)果，它可以從文本中學(xué)習(xí)模式和規(guī)則，并通過利用這些模式和規(guī)則回答問題。

《時(shí)代》記者Billy Perrigo認(rèn)為，ChatGPT系統(tǒng)的流暢性是一種錯(cuò)覺，它來自于大量的數(shù)據(jù)、強(qiáng)大的計(jì)算能力和新穎的處理技術(shù)的結(jié)合——但它確實(shí)是一種厲害的技術(shù)。

2020年，OpenAI推出語言模型GPT-3時(shí)，曾一度飽受爭議。該模型不僅會給出一些錯(cuò)誤答案，還會預(yù)設(shè)一個(gè)聲音以表明這是一個(gè)真人，有時(shí)產(chǎn)生含有種族主義或攻擊性的文本。

模型權(quán)重的部分訓(xùn)練是基于從互聯(lián)網(wǎng)上搜集的數(shù)據(jù)，這也成為造成其輸出結(jié)果不準(zhǔn)確或帶有偏見的主要原因。OpenAI表示，ChatGPT使用了類似的方法進(jìn)行訓(xùn)練，但添加了“來自人類反饋的強(qiáng)化學(xué)習(xí)”，來降低危險(xiǎn)性。

事實(shí)證明，危險(xiǎn)性并未被完全杜絕。在美國知名論壇Reddit上，有不少國外網(wǎng)友企圖用一些政治、歧視等敏感問題來挑戰(zhàn)它的底線，ChatGPT并非一味地屏蔽和拒絕回復(fù)。

（截圖來自Reddit）

我們向ChatGPT發(fā)起了截圖中同樣的問題，但得到的回答是“作為一個(gè)AI模型，我不能對任何種族或人群作出偏見或不當(dāng)評價(jià)。我只能回答客觀的事實(shí)和信息，而不是評價(jià)任何人群的行為。”

人工智能初創(chuàng)公司通用智能的首席技術(shù)官喬希·阿爾布雷希特認(rèn)為：“其中一個(gè)危險(xiǎn)的事情是，我們很容易看到GPT-3或ChatGPT就認(rèn)為它們具有理解能力。但我們使用的‘理解’這個(gè)詞，是適用于人類的概念。當(dāng)我們把它應(yīng)用到人身上時(shí)，它是有意義的。但當(dāng)我們將這些相同的概念應(yīng)用到（人工智能）模型中時(shí)，它不一定具有同樣的意義。我認(rèn)為我們需要新的詞匯來談?wù)撨@些事情。”

在與ChatGPT對話中，我們也對其輸出能力邊界做了相關(guān)測試。比如評價(jià)一個(gè)游戲角色，或者推薦一部電影，它都“無能為力”。我們發(fā)現(xiàn)，ChatGPT具備交互功能，但并不具備社交屬性。

即便是ChatGPT驚艷四方的內(nèi)容創(chuàng)作能力，也遭到了來自文言文的靈魂考驗(yàn)。

ChatGPT的真正魔力恰在于，盡管存在諸多缺陷，但依然無法掩蓋它身上的顛覆性和威脅感。事實(shí)上，這種魔力已經(jīng)讓興奮與恐慌蔓延。

最近，多家知名學(xué)術(shù)期刊針對ChatGPT更新了編輯規(guī)則，如《科學(xué)》明確禁止將ChatGPT列為合著者，且不允許在論文中使用ChatGPT所生產(chǎn)的文本。

更早之前，包括巴黎政治學(xué)院在內(nèi)的一些學(xué)校也禁止學(xué)生和教職工在書面文稿或 PPT 中使用 ChatGPT；一些互聯(lián)網(wǎng)公司則因?yàn)閾?dān)心泄密，不讓自家工程師用 ChatGPT 寫代碼。

在ChatGPT這個(gè)始作俑者看來，它的出現(xiàn)可能會給導(dǎo)致一些人失去工作，但也會創(chuàng)造出一些新崗位。不免有人對此表示認(rèn)同，認(rèn)為這種威脅反而是人類提高自己的契機(jī)。

比爾·蓋茨在談到ChatGPT時(shí)表示，擔(dān)心AI安全的人一定會說OpenAI沒有解決這個(gè)問題，其實(shí)作為合作伙伴，微軟也對此保持高度警惕。但它也將在一定程度上改變就業(yè)市場。這讓我們不禁思考，邊界在哪里？

當(dāng)下，互聯(lián)網(wǎng)科技圈最受矚目的莫過于由ChatGPT點(diǎn)燃的搜索引擎巨頭之戰(zhàn)。

前谷歌第23位員工、Gmail的創(chuàng)建者之一Paul Buchheit日前表示，像ChatGPT這樣的人工智能聊天機(jī)器人將摧毀谷歌，就像當(dāng)年搜索引擎徹底干掉黃頁電話簿一樣。

（來自Reddit網(wǎng)友發(fā)帖）

按照“當(dāng)事人”ChatGPT的說法，聊天機(jī)器人和搜索引擎各有所長，并非是競爭關(guān)系，而是相輔相成的關(guān)系。

近10年來，從關(guān)鍵詞到口語化搜索，搜索引擎在解讀用戶需求方面做出了諸多努力，變化巨大。但也如ChatGPT所說，搜索引擎的優(yōu)勢明顯體現(xiàn)在收集和整理大量的信息方面，其所呈現(xiàn)的結(jié)果來自于平臺收集的相關(guān)信息，并無法直接回答用戶的具體問題。

舉個(gè)簡單的例子，在搜索引擎和ChatGPT分別輸入“寫一篇關(guān)于保護(hù)環(huán)境的文章，限500字”，前者搜索的結(jié)果會是相關(guān)范文模板，后者則直接會得到一篇寫好的文章。

我們得出的結(jié)論是，二者之間本質(zhì)上的差別體現(xiàn)在呈現(xiàn)結(jié)果與創(chuàng)造答案上。

后者也成了ChatGPT在遇到涉及評價(jià)、喜好等主觀意識問題的局限性，在上面那個(gè)“推薦電影”的對話中已經(jīng)很好體現(xiàn)。作為聊天機(jī)器人的ChatGPT顯然不具備自己的評分標(biāo)準(zhǔn)，但搜素引擎卻能直接將電影評分、網(wǎng)友推薦等內(nèi)容展示在結(jié)果中。

2月8日凌晨，微軟推出了由ChatGPT支持的Bing版本。一位業(yè)內(nèi)人士認(rèn)為，ChatGPT和微軟系列生產(chǎn)力產(chǎn)品的整合，是AI走向普遍應(yīng)用的里程碑事件，這等同于當(dāng)年P(guān)C誕生的重要一步。

無論是ChatGPT“打敗”搜索引擎，還是微軟干掉谷歌，對于已經(jīng)站在未來世界門前的我們來說，都不見得是一件壞事。