生成式 AI

生成式人工智慧會吸收現有資料、從中學習，然後產生具有類似特性的資料。 例如，它可以生成文本、圖像；音檔、影片和電腦程式碼。

• 發展史
•     
• 當今世界
•     
• 應用領域
•     
• 運作方式
•     
• 後續步驟

生成式人工智慧的演變

傳統的 AI 和機器學習系統可識別資料中的模式以進行預測。 但是生成式 AI 超越了預測，它會產生新資料，作為其主要輸出。想像一下，在對聊天機器人（例如 ChatGPT）用幾個單詞來描述您的想法後，只需幾秒鐘後，收到完整文本的演講， 並從基於文本的描述產生音樂，藝術或圖像， 或使用生成式 AI 工具通過對話、來回「提示」來發展業務策略。

這一切從哪裡開始？

與普遍認知相反，生成人工智慧並不是新興的技術，它是根據我們數十年使用的技術構建，包括人工智慧、機器學習和統計方法。 三種核心生成人工智慧技術包括數位孿生、大型語言模型和合成數據生成。

雖然生成人工智慧的起源可以追溯到更遠，但我們將從 1966 年開始和一個名為 ELIZA的 聊天機器人。

建立 ELIZA 的約瑟夫·韋森鮑姆（Joseph Weizenbaum）設計了它來模仿羅傑里的心理治療師，他們反映患者說的話。 ELIZA 使用模式匹配來實現這項成就。ELIZA 是第一個嘗試圖靈測試的程序之一，這是一款模仿遊戲，測試機器展現像人類一樣智慧行為能力的模擬遊戲。

隨著分析非結構化文本資料的方法進化，1970 年代到 1990 年代的語義網絡、本體學、循環神經網絡等都有增長。 從 2000 年到 2015 年，語言建模和文字嵌入程序改進，並且 Google 翻譯器出現。

2014 年，Ian Goodfellow 和同事開發了生成對抗網絡（GAN），設置了兩個神經網絡以彼此競爭（即訓練）。 一個網絡生成數據，而另一個網絡試圖確定數據是真實還是假的。Transformer 模型於 2017 年推出。 他們包括一個自我注意機制，讓它們在進行預測時，能夠衡量輸入的不同部分，其所代表的重要性。BERT 和 eLMO 等架構也變得流行。

接下來出現基於轉換器的生成式預訓練模型（Generative pre-trained transformer, GPT）模型，第一款 GPT 模型在 2018 年推出。 這個模型對來自互聯網的大量文本資料進行了訓練。 具有 1.700 萬個參數，它能夠生成與訓練數據在風格和內容上相似的文字。到 2023 年，大型語言 GPT 模型已經發展到可以在困難的考試中出色地表現，例如律師考試。

微調模型的 5 個步驟

生成式人工智慧依賴許多不同的人工智慧演算法和技術，來產生具有類似機率分佈和特徵的資料，這些資料與其學習來源的資料相似。 不是從頭開始建構，您可以按照以下五個步驟微調預先訓練的基礎大語言模型。