ChatGPT是什么

ChatGPT是OpenAI訓練的對話式大規模語言模型，以對話的方式進行交互。它和之前的另一款模型InstructGPT屬于同級模型。ChatGPT具有當代同類產品具備的一些主流特性，特別是多輪對話能力，能夠在同一個會話期間內回答上下文相關的后續問題。

ChatGPT 是 OpenAI 訓練的對話式大規模語言模型，以對話的方式進行交互。它和之前的另一款模型 InstructGPT 屬于同級模型，代表“GPT 3.5”代。之前微軟和 OpenAI 簽訂了戰略合作計劃，所以 GPT 3.5 代的所有模型，包括 ChatGPT，都是在 Azure AI 超級計算集群上訓練的。

OpenAI 使用前面提到的 RLHF 技術對 ChatGPT 進行了訓練：簡單來說，在訓練原始模型的時候，OpenAI 讓人類訓練師扮演對話的雙方（用戶 vs 聊天機器人），提供對話作為學習資料。而在人類扮演聊天機器人的時候，OpenAI 也會讓模型生成一些建議來幫助訓練師撰寫自己的回復。

這些機器生成的回答，再經過訓練師的打分排名，將更好的結果輸入回到模型中，實現強化學習訓練的獎勵機制。作為一個聊天機器人，ChatGPT 具有當代同類產品具備的一些主流特性，特別是多輪對話能力，能夠在同一個會話期間內回答上下文相關的后續問題。

計算大模型 GPT-3.5 支持的通用聊天機器人原型 ChatGPT，能回答一連串的問題、承認自己的錯誤、質疑不正確的假設，甚至是拒絕不合理的需求。

就在人們翹首期盼 GPT-4 亮相時，OpenAI 先低調推出了個 GPT-3.5。有了 GPT-3.5 的加持，ChatGPT 經訓練后提升了對答如流的能力。GPT-3 只預測任何給定的單詞串之后的文本，而 ChatGPT 則試圖以一種更像人類的方式與用戶發生互動。ChatGPT 的互動通常是非常流暢的，并且有能力參與各種主題，與幾年前才面世的聊天機器人相比，顯示出了巨大的改進。

OpenAI 官方稱，ChatGPT 是在人類的幫助下創建并訓練的，人類訓練師對該 AI 早期版本回答查詢的方式進行排名和評級。然后，這些信息被反饋到系統中，系統會根據訓練師的偏好來調整答案——這是一種訓練人工智能的標準方法，被稱為強化學習。

ChatGPT 還有一種奇妙的能力：回答基本的、甚至于有些無聊的瑣碎問題。這使得許多人認為，像這樣的人工智能系統有一天會取代搜索引擎。聊天機器人是根據從網上收集到的信息進行訓練的。因此，如果能準確地呈現這些信息，并以更流暢和對話的語調來進行反饋，這將代表著傳統搜索的巨大進步。