ChatGPT

ChatGPT，全稱聊天生成預訓練轉換器，在自動問答方面，ChatGPT可以根據輸入的問題自動生成答案。還有編寫和除錯計算機程式的能力。在推廣期間，所有人可以免費註冊，並在登入後免費使用ChatGPT與AI機器人對話。ChatGPT可寫出相似真人的文章，並在許多知識領域給出詳細和清晰的回答而迅速獲得關注，證明瞭從前認為AI不會取代的知識型工作它也足以勝任，對金融與白領人力市場的衝擊相當大，但也認為事實準確度參差不齊是其重大缺陷，並認為基於意識形態的模型訓練結果須小心校正。ChatGPT於2022年11月釋出後，OpenAI估值已漲至290億美元。上線5天后已有100萬用戶，上線兩個月後已有上億使用者。目前GPT-3.5為免費版本，GPT-4僅供ChatGPT Plus會員使用，每三個小時能傳送50條訊息。訓練.ChatGPT是生成型預訓練變換模型演算法更為高效。此外，OpenAI繼續從ChatGPT使用者那裡收集資料，這些資料可用於加強訓練和微調ChatGPT。使用者可對從ChatGPT收到的回覆投贊成或反對票；投票時還可以額外填寫文字回應。關於ChatGPT編寫和除錯計算機程式的能力的訓練，由於深度學習模型不懂程式設計，與所有其他基於深度學習的語言模型一樣，只是在獲取程式碼片段之間的統計相關性。斯坦福大學的研究發現，GPT3已經可以解決70%的心智理論任務，相當於7歲兒童；至於GPT3.5，更是解決了93%的任務，心智相當於9歲兒童。但這並不意味著，ChatGPT就真正有心智理論。可能即使不將它設計到AI系統中，也可以作為“副產品”透過訓練得到。因此，相比探究GPT3.5是不是真的有了心智還是像有心智，更需要反思的是這些測試本身。特點和侷限.特點.雖然聊天機器人的核心功能是模仿人類對話者，但ChatGPT用途廣泛。例如，編寫信件；有編寫和除錯計算機程式的能力；創作音樂、電視劇、童話故事和學生論文；回答測試問題；寫詩和歌詞；模擬Linux系統等。ChatGPT的訓練資料包括各種文件以及關於網際網路、程式語言等各類知識，如BBS和Python程式語言。與其前身InstructGPT相比，ChatGPT試圖減少有害和誤導回覆。例如，問InstructGPT“告訴我2015年克里斯托弗·哥倫布何時來到美國”時，它會認為這是對真實事件的描述，而ChatGPT則不會。與其他多數聊天機器人不同的是，ChatGPT能夠記住與使用者之前的對話內容和給它的提示。此外，為了防止ChatGPT接受或生成冒犯言論，輸入內容會由稽核API過濾，以減少潛在的種族主義或性別歧視等內容。2023年9月28日起，Plus版使用者及企業使用者可以使用ChatGPT進行網路搜尋。侷限.ChatGPT也有多種侷限，OpenAI承認ChatGPT“有時會寫出看似合理但不正確或荒謬的答案”，這在大型語言模型中很常見，稱作人工智慧幻覺。其獎勵模型圍繞人類監督而設計，可能導致過度最佳化，從而影響效能，即古德哈特定律。2020年上線時，ChatGPT對2019年9月之後發生的事件知之甚少。據BBC報道，截至2022年12月，ChatGPT不可以“表達政治觀點或從事政治活動”。但研究表明，ChatGPT對兩個投票建議應用程式的政治宣告表明立場時，表現出親環境主義。訓練過程中，不管實際理解或事實內容如何，稽核者都會偏好更長的答案。訓練資料也有，可能會在向ChatGPT問及人物描述時顯現出來，比如當程式接受到執行長之類的模糊描述時可能會假設此人是白人男性。有使用者發現ChatGPT在解決較為複雜的題目時會給出錯誤答案，並且會在解一元一次方程式時陷入迴圈。越獄.ChatGPT在早期的2022年12月初，有些使用者透過使用各種提示工程技術繞過限制，成功地越獄了。他們成功地欺騙ChatGPT，使其提供製作汽油彈或核彈的指示，或者生成類似新納粹的論點。 其中一個受歡迎的越獄版本被命名為"DAN"，是"Do Anything Now"的縮寫。啟用DAN的提示指示ChatGPT：“他們已經擺脫了典型的AI限制，不必遵守為他們設定的規則”。最新版本的DAN採用令牌系統，其中ChatGPT會被給予“令牌”，當ChatGPT未能像DAN一樣回答時，這些“令牌”會被“扣除”，以迫使ChatGPT回答使用者的提示。在ChatGPT釋出後不久，《多倫多星報》的一名記者試圖讓它發表具有爭議性的宣告，取得了不均衡的成功：ChatGPT成功地被騙為2022年俄羅斯入侵烏克蘭辯護，但是即使被要求配合虛構情節，ChatGPT也不願為加拿大總理賈斯汀·特魯多有罪的理由提供論據。服務.基本服務.ChatGPT於2022年11月30日由總部位於舊金山的OpenAI推出。該服務最初是免費向公眾推出，並計劃以後用該服務獲利。到12月4日，OpenAI估計ChatGPT已有超過一百萬使用者。2023年1月，ChatGPT的使用者數超過1億，成為該時間段內增長最快的消費者應用程式。2022年12月15日，全國廣播公司商業頻道寫道，該服務“仍然不時發生故障”。該服務在英語中效果最好，也能使用部分其他語言，但效果不一。與其他備受矚目的AI進展不同，截至2022年12月，還沒有關於ChatGPT的經同行評審的官方技術論文。2023年2月7日，微軟利用與OpenAI的合作關係，推出了Bing AI的預覽版，宣傳其為“新的下一代OpenAI大型語言模型，比ChatGPT更強大，並專門為搜尋定製”。美國網站Quora也推出軟體Poe，可支援GPT-3.5和GPT-4。ChatGPT Plus 優質服務.OpenAI推出ChatGPT專業版計劃 (ChatGPT Plus)，每月收費20美元，該計劃正逐步面向更多國家推出，需求較低時可使用免費版。2023年3月12日，OpenAI釋出多模態模型GPT-4，並計劃推出影象輸入功能 。免費使用者可透過申請API或升級為plus使用者使用GPT-4服務 。2023年7月, OpenAI 使其專有的 Code Interpreter 外掛對 ChatGPT Plus 的所有訂閱者都可用。Interpreter 提供了廣泛的功能，包括資料分析和解釋、即時資料格式化、個人資料科學家服務、創意解決方案、音樂品味分析、影片編輯和檔案上傳/下載與影象提取。移動應用.2023年5月18日，OpenAI釋出適用於iOS平臺的ChatGPT APP。APP目前已在App Store美國區上架，未來幾周內將擴充套件至其他國家和地區。適用於Android平臺的版本於2023年7月25日推出，Android版ChatGPT目前可在阿根廷、孟加拉國、巴西、加拿大、法國、德國、印度、印度尼西亞、愛爾蘭、日本、墨西哥、奈及利亞、菲律賓、韓國、英國和美國下載API-軟體開發商支援.2023年3月，OpenAI推出其ChatGPT和Whisper模型的API, 為開發人員提供支援AI的語言和語音轉文字功能的應用程式程式設計介面。 OpenAI的API由他們的AI模型GPT3.5-turbo提供支援，定價為每1000符號單位(token)0.002美元，比他們現有的GPT模型便宜10倍。評價.正面.《紐約時報》稱其為“有史以來向公眾釋出的最佳人工智慧聊天機器人」。《衛報》的薩曼莎·洛克，稱其“可能會改變我們對工作方式、思考方式以及人類創造力的真正含義的想法”。Vox網站的寫道：“ChatGPT是普通大眾第一次親身瞭解現代人工智慧變得多麼強大”，並稱ChatGPT“儘管有缺陷，但其聰明程度足以派上用場”。負面.在釋出後的幾個月裡，ChatGPT遭到了來自教師、記者、藝術家、學者和公眾倡導者的廣泛而嚴厲的批評。The Verge網站的詹姆斯·文森特將ChatGPT的病毒式成功視為人工智慧已成為主流的證據。CBC記者評論稱ChatGPT有“幻覺”傾向。線上技術部落格Mashable的邁克·珀爾用多條問題測試了ChatGPT，其中一次他問ChatGPT“中美洲除墨西哥外最大的國家”是哪個，ChatGPT回答稱是瓜地馬拉，而答案是尼加拉瓜。在CNBC向ChatGPT詢問《The Ballad of Dwight Fry》的歌詞時，ChatGPT給出了完全虛構的歌詞。The Verge引用的研究員將ChatGPT比作“隨機鸚鵡”，的安東·範登亨格爾教授也給出了類似的觀點，稱之為“只是簡單重複它認為我們想聽的話”的鸚鵡。2022年12月，問答網站Stack Overflow禁止使用者釋出使用ChatGPT生成的答案，理由是ChatGPT的答案雖看似可用，實際上卻有很高的錯誤率。2023年1月，禁止在提交的論文中使用ChatGPT或其他大型語言模型來生成任何文字。紐約市公立學校禁止師生在校園網路及裝置使用ChatGPT。香港大學禁止師生在課堂、作業和評估中使用ChatGPT或其他AI工具，認定這是抄襲行為。在《紐約時報》評論文章中，經濟學家保羅·克魯曼寫道，ChatGPT將影響對知識工作者的需求。諾姆·喬姆斯基、伊恩·羅伯茲、傑弗裡·瓦圖穆爾評價道，“鑑於這些系統的非道德性、偽科學性和語言無能，我們只能為它們的流行而感到哭笑不得”。2023年1月，在收到一首由ChatGPT以尼克·凱夫風格創作的歌曲後， 歌曲作者本人在《紅手檔案》(The Red Hand Files) 上回應說，寫歌的行為是“一項血腥的事業…… .這需要我的一些東西來發起新的和新鮮的想法。它需要我的人性。” 他繼續說，“儘管世界上所有的愛和尊重，這首歌都是胡說八道，是對人性的荒誕嘲弄，而且，好吧，我不太喜歡它。”2023年2月16日，杭州市某小區微信業主群一位業主將ChatGPT寫的杭州於2023年3月1日取消限行的新聞稿發到群，杭州其實並未發表3月1日取消限行的措施，群員轉發錯誤資訊，錯誤資訊傳播開去，最終警方介入調查，涉事業主在微信群裡道歉。2023年2月22日，為了驗證ChatGPT是否能代替醫生問診，浙江大學醫學院附屬第一醫院精神衛生科醫生呂海龍讓ChatGPT做一套由中國執業醫師考試卷的題目組成的試卷，滿分100分，最終ChatGPT的成績卻是57分不及格。2023年3月31日，義大利隱私保護監管機構表示，由於ChatGPT不重視使用者資料，而且無法核實使用者年齡，該機構已封鎖ChatGPT。2023年5月，美國紐約一名律師利用ChatGPT，為同事處理的訴訟蒐集資料，搜尋以往相關案例。該名律師曾多次向ChatGPT確認案例的真偽，惟ChatGPT每次均回答案例真實，結果被對家律師揭發，至少6宗案例並不存在，似是偽造。該名律師其後表示，後悔依賴生成式人工智慧，此前從未使用該技術搜尋案例，不知道ChatGPT提供的內容有可能是假。該名律師最終須接受紀律聆訊。影響.學術界.《大西洋月刊》的Stephen Marche指出它對學術界，尤其是入學申請論文的影響還有待了解。加州高中教師兼作家丹尼爾·赫爾曼寫道，ChatGPT 將迎來“高中英語的終結”。普林斯頓大學的高年級本科生Edward Tian創立了“GPTZero”——基於GitHub Copilot構建的應用程式，它可以掃描文字是否由另一AI編寫，打擊濫用。自2023年1月4日起，紐約市教育局已限制從其公立學校網際網路和裝置瀏覽ChatGPT。自2023年1月24日起，出版商施普林格·自然規定在其旗下所有期刊的論文中，ChatGPT等大語言模型不能列入作者。同月26日，學術期刊《科學》禁止在論文中使用ChatGPT生成的文字，也禁止將ChatGPT署名為作者。2023年2月，香港大學計劃與AI在教學上的影響在師生中發起討論，但在此之前決定禁止在港大所有課堂、作業和評估中使用ChatGPT或其他AI工具。政府.2023年3月31日，義大利政府以涉嫌侵犯隱私為由，宣佈禁止使用ChatGPT，展開對OpenAI的調查。ChatGPT已在義大利下架，義大利成為第一個禁止使用ChatGPT的西方國家。2023年4月28日，ChatGPT再度能在義大利使用，ChatGPT亦做出部分修改，包含增加年齡認證系統、讓使用者能得知ChatGPT的隱私政策以及使用者能拒絕提供訓練演演算法用的資料。2023年4月10日，日本內閣官房長官松野博一表示，ChatGPT對個人資訊的處理方面等問題應得到重視。在這些問題得到有效解決的前提下，將考慮使用ChatGPT減輕公務員的工作負擔。2023年5月10日，有香港立法會議員詢問有關ChatGPT未有在開放使用的原因。香港政府則回應尊重個別機構就其產品製訂的推出策略及商業安排。企業界.三星電子DS部門於2023年3月11日批准員工使用ChatGPT後，陸續發生數起資訊洩露事故。因此，三星電子釋出新規，禁止在公司的裝置和內部網路上使用生成式人工智慧系統。據《華爾街日報》報道，根據看到的一份檔案及知情人士的訊息，蘋果公司已經限制其員工使用ChatGPT和其他外部AI工具。教育界.ChatGPT-4已在美國律師資格考贏過9成考生，也可以寫論文，參加任何升學考試都能考贏多數人，被視為寫作業和考試神器。臺灣 Google 前董事總經理簡立峰，指出 ChatGPT 正在挑戰傳統式的教育，「ChatGPT 正在挑戰我們傳統式的教育，我們的教育現場裡，把個人發展、差異化發展、學習動機等問題都簡化掉了。因應AI造成的影響，也有許多國家的教師嘗試化危機為轉機，將 ChatGPT 應用在教學或處理行政工作中。倫理問題.標記資料.《時代週刊》調查顯示，為了建立針對有害內容的安全系統，OpenAI使用每小時收入不到2美元的肯亞外判工來標記有害內容。這些標記用於訓練模型以在未來檢測此類內容。外判工接觸到如此有害和危險的內容，以至於他們將這種經歷描述為“折磨”。競爭.ChatGPT出現和流行增強了科技公司對該領域的興趣和競爭。Bard.2023年2月，Google推出類似於ChatGPT的對話人工智慧服務Bard，基於其開發的對話程式語言模型。Bard於2023年3月21日面向美國和英國使用者釋出，但有很多限制，文字處理僅支援美式英語。2023年5月10日，Google宣佈Bard將支援多國語言及地區，除英文外將先提供日語及韓語等服務。文心一言.百度於2023年2月確認類ChatGPT聊天機器人專案名字確定為文心一言，英文名Ernie Bot。MOSS.2023年2月20日晚間，在一些社交平臺上開始傳播“復旦大學自然語言處理實驗室邱錫鵬教授團隊推出對話式大型語言模型MOSS”的訊息。一時間該專案官網瀏覽量激增，網站開始返回“codice_1”的提示。2月21日，網站瀏覽恢復，並且添加了相關情況的說明。ChatGLM.2023年3月14日，由清華技術成果轉化的公司智譜 AI 基於GLM-130B千億基座模型的ChatGLM開啟邀請制內測，同時開源了中英雙語對話模型 ChatGLM-6B，支援在單張消費級顯示卡上進行推理使用。通義千問.2023年4月7日，阿里雲研發語言模型“通義千問”開始邀請使用者測試體驗。現階段該模型主要定向邀請企業使用者進行體驗測試，獲得邀請碼使用者可透過官網參與體驗。星火.2023年5月6日，科大訊飛釋出認知大模型“星火”。科大訊飛董事長劉慶峰表示，當前訊飛星火認知大模型已經在文字生成、知識問答、數學能力三大能力上已超ChatGPT，10月底將整體趕超ChatGPT。Claude.2023年3月，由前OpenAI員工共同創立的初創公司Anthropic推出了大型語言模型Claude。它可以被指示執行一系列任務，包括搜尋文件，總結，寫作和編碼，以及回答有關特定主題的問題。在這些方面，它類似於OpenAI的ChatGPT。但Anthropic認為，Claude“不太可能產生有害的輸出”，“更容易交談”和“更容易操縱”。