Cloud 3 Model 家族：GP4 的下一代挑戰者？

AI 大浪潮：從 GP4 到 Cloud 3 Model 家族的發展

• 嗨大家好，這裡是 Dave。如果你對人工智能稍有興趣，並打開了瀏覽器或拿起手機，你可能已經看到了最新版的 Cloud 3 Model 家族。AI 領域的發展總是讓人眼花繚亂，就在兩週前，Google 在各個方面擊敗了 GP4，現在再次有新的主張出現，聲稱在性能上有各種新的升級。對於像我這樣專業使用這些大型語言模型為客戶工作的 AI 工程師來說，現在以及未來，我們將不得不不斷轉換和適應，以找出適合特定用例的最佳模型。我們必須考慮性能、智能、速度和成本等各種因素。迄今為止，我僅在我為客戶工作的項目中使用了 GP4 和 GPT 3.5，但現在我也開始接觸 Cloud，隨著這些新的主張出現...

AI 大浪潮：從 GP4 到 Cloud 3 Model 家族的發展

構建自然語言處理模型

• 為了比較目前的GPU和主要的渦輪模型以及這些新的Cloud模型之間的區別，我決定進行測試並做一個快速比較，同時還要看看開發者的工作流程，因為我有一堆項目使用OpenAI和GPT模型，想知道我們究竟有多容易地切換或更換模型而不使事情變得太複雜。我有一些代碼在這裡，我也會提供給你，還有兩個服務，除了我在視頻中涵蓋的內容外，我認為這對你都會很有價值，因為這真的是我們在Data Lumina中為所有項目設置大型語言模型的方式。我有一個Azure OpenAI服務和一個Entropic服務，我們將進行一個簡單的設置，為它提供系統提示和一條創建簡單LinkedIn的指令。

構建自然語言處理模型

使用語言模型進行內容創作的價值

• 我們將使用語言模型進行內容創作，我特別感興趣的是這些模型的結構化輸出質量，因為最近來看，如果我們回顧一下這些模型，如果你還記得 OpenAI 的更新，其中一個巨大的更新是 Jason mode，對我來說至少，這在指導語言模型提供可靠的 Json 輸出方面非常有用。要求 LMS 提供 Json 輸出不再需要逐步提示，這已經成為我與大型語言模型互動時的默認做法，即使我並不特別需要 Json 輸出，我仍然請求它這樣做，然後提取第一個 key 作為回應。為什麼我這樣做呢？因為從開發角度來看，將數據封裝在 Json 中更加合乎邏輯，甚至在執行簡單操作時也是如此。

使用語言模型進行內容創作的價值

探索人工智能模型的應用

• 假設有一個對話B，您知道在其中來回傳送信息，即使僅僅將消息放在第一個關鍵位置可能非常有用，然後可以提供一些額外的元數據，以便您可以記錄下來。這對我來說一直是一種很好的做法，如果我們再來看看Azure開放AI表面，請容我有點跳來跳去，這僅僅是一個基於我的觀察的演示，所以可能比您習慣的結構性要差一些，但在這裡您可以查看響應格式，您可以直接告訴Open AI的Turbo模型您要JSON格式，並且想要嘗試並查看這在熵模型中如何運作以及與新的雲端模型的工作流程進行比較，這就是我們做的事情。我有兩個工作範例，我們還有兩個最終結果，讓我們快速過一遍這些，以便首先向您展示有何不同。

探索人工智能模型的應用

開發者使用Azure OpenAI服務的實際參考價值

• 可以在輸出方面進行特定的設置，但這些將非常相似，這在很大程度上取決於風格和您喜歡的方式，但主要是從工作流程和觀察的角度來看，對我作為AI開發者來說，也許至少註冊並獲取這個模型的API密鑰，看看我能在哪裡將這個模型結合起來。這不是一個我會在其中審查所有這些基準測試並找出最佳模型的視頻，以及哪裡改進等等，這只是針對使用開發者的實際結論，看看這對我意味著什麼，好嗎？所以說，再次為我們使用的Azure OpenAI服務提供一點上下文說明，對於那些不了解的人來說，Azure OpenAI只是一種通過Azure使用open AI模型的方式，對於我大多數的客戶來說，這是一個必需的安全感，這就是為什麼我們使用Azure OpenAI，但它仍然是同一個模型。因此，如果我們

開發者使用Azure OpenAI服務的實際參考價值

編寫智能聊天機器人的祕訣

• 來看看這裡我們正在進行的工作。這是一個簡單的設置，我們初始化了一個類，將所有認證鏈接在一起。然後我們有一個簡單的功能來執行對話完成一次性，然後這裡是生成回應功能。我們給出一個系統提示，說我們將寫一個LinkedIn帖文等等，給出一些規範，然後我還說，讓我們以Json格式輸出，我們需要內容、關鍵詞和標題，然後我們將其與系統註冊綁定到這個消息格式，然後我們實際發送到API，這是魔法發生的地方。現在由於我們指示將其作為Json對象返回，因此我們可以在這裡調用Json loads，然後將其作為Json響應返回。現在如果我進來運行這個內容，讓我看看，等等，我不必再運行它，我已經有它保存在內存中，所以我現在可以查看我擁有的結果。現在我要求您撰寫一篇LinkedIn帖文，但我已經有了內容，還有一些關鍵詞和

編寫智能聊天機器人的祕訣

自動化內容生成的魅力：Json格式的結構化輸出

• 假設你要建立某種自動化內容生成系統，在這個系統中，你可以存儲各種寶貴資訊。在這個內容管理系統中，你可能會使用這樣的標題來寫這篇文章，而實際內容則可以作為字典中的鍵進行查詢。這就是為什麼LMS的Json格式的結構化輸出如此出色的原因。現在讓我們看看這在entropic中是什麼樣子。直到今天下午之前，我從未使用過entropic API，所以對我來說這都是新鮮事。幸運的是，它實際上非常直觀，而且與如何使用Open AI 非常相似。在他們的網站上，他們有一些簡單的快速入門Python指南，你可以看到它們的風格非常相似，在訊息方面配置也完全一樣。我很高興看到，即使它們是競爭對手，它們也試圖使這一切變得更流暢。

自動化內容生成的魅力：Json格式的結構化輸出

新科技發展：Entropic引入三款模型

• 開發者體驗現在這裡您也可以看到我們來看看現在的模型，他們引入了三個模型，所以如果我們來看看，您也可以在這裡看到，還有在介紹中他們談到的地方，所以我們有一個hiu，目前還沒有推出，但很快就會推出，我們有Sonet和Opus，在您往上走時，變得更智能，但也更慢、更昂貴，所以他們基本上解釋了這一點，Sonet是最平衡的版本，這僅僅是最大功率，這將是一個非常具成本效益的模型，這基本上是他們如何解釋的，現在您可以選擇使用Opus或Sonnet這個模型名稱，這就是您可以在這裡看到的內容，讓我放大一點給您看看這裡發生了什麼，所以我們與OpenAI的版本非常相似，但現在我們使用entropic，所以我們再次有一個系統提示，這完全相同，然後我們創建消息，但現在這裡我們

新科技發展：Entropic引入三款模型

探索Entropic API：優化內容輸出的新方法

• 最近我在做一些有趣的事情，花了一些時間來調整，我想和大家分享，因為我認為這將非常有幫助。由於Entropic API沒有像Open AI模型那樣的結構化輸出參數，但有一些方法可以進行調整，基本上您可以在這裡看到。他們提供了一些控制輸出的範例，例如您可以通過提示指示它進行操作。但我注意到有時候，即使這樣做，仍然會出現一些問題，您要求Json輸出，模型說好的，這裡是您要的Json輸出，然後給出了一個類似Json的回答，這不是我想要的，我只是想要Json，否則您可能會遇到加載時出現錯誤的問題。但有一個非常酷的功能，對我來說這真的很新穎，您可以使用這個預填充選項，從而提供

探索Entropic API：優化內容輸出的新方法

如何有效地訓練語言模型

• 輔助程式有一個開始括弧，表示提示你這應該是你的答案的開始，然後根據我的經驗，模型唯一合理的完成方式就是實際提供 JSON，這通常效果非常好。我執行了一些實驗，沒遇到任何問題，所以訊息的設定非常簡單。你提供系統提示，這在這裡，然後我們有使用者，你在提示中輸入，再添加另一個 rooll 助理，然後我們在這裡做一個小開始括弧，然後我們把所有東西發送到 API 得到回應但是有一件事情我們必須做，我們必須把那個括弧加回去，因為這有點繁瑣但是既然我們已經在這裡有開始括弧，API 會返回訊息實際上沒有括弧，所以你必須把它們拼湊在一起以便 JSON 加載能夠運作。

如何有效地訓練語言模型

創建結構化JSON響應的重要性

• 在這篇文章中，我們將探討建立結構化JSON響應的重要性。透過設定標題、關鍵字以及內容，我們可以輕鬆地交換不同模型，獲得相同結構化的Json響應。這樣的設計能夠讓開發人員更有效率地進行應用程式或項目的開發，同時也有助於提高工作效率。未來隨著Google、Open AI以及CLA等公司的不斷競爭和創新，作為開發者，掌握這樣的設計是非常重要的。

創建結構化JSON響應的重要性

探討自主程式碼庫的優勢

• 為了盡可能少地使用抽象化，我也會小心使用像Lang chain這樣的框架，因為我已經遇到了多個問題，因為一切都在迅速改變，通過使用自己的程式碼庫，您可以非常輕鬆地維護自己喜歡的服務，無論是用於Azure還是Google等等。這樣您就可以創建快速的包裝器，圍繞您自己的服務，然後進行維護。這些新模式更好嗎？您應該轉換嗎？這取決於不同情況，如果我們看評估，也許是的。如果從開發人員的角度來看，問題依然是，您正試圖解決什麼問題？如果您已經全力支持openAI gp4，那麼請繼續。但也許對於新項目，可以考慮嘗試這種設置，我肯定會繼續這樣做。我有一些新項目排定，可能會同時評估它們，這將非常有趣。所以，如果您是一名開發人員，還沒有註冊entropic，我建議您立即行動。

探討自主程式碼庫的優勢

從自由工作者到全職工作：專注於數據專業技能

• 建議這樣做，只是為了上榜，這樣你可以立即獲得 API 金鑰。如果你也想參與像這樣的人工智能項目，幫助客戶並以自由工作者的身份工作，或許可以賺取更多利潤，甚至全職從事，但是你不確定從何開始，那麼「程式數據自由工作者」可能是你想了解的。免責聲明，這會有些自吹自擂，但我剛更新了完全全新版本的「程式數據自由工作者」，以幫助數據專業人士、軟件工程師和人工智能工程師真正踏上自由工作之路。過去五年以來，我一直從事這項工作，全職生活。我也幫助了許多其他人這樣做。迄今為止，我們僅有五星級評價，人們喜歡這個計劃，我們剛剛推出了全新版本，使其更加完善。如果你對這樣的工作感興趣，可以點擊描述中的鏈接，你將進入該頁面，觀看視頻，看看是否合適。如果不合適也沒關係，然後如果你覺得這個視頻有幫助，請點讚，並考慮訂閱，我們下期節目見。

從自由工作者到全職工作：專注於數據專業技能

Conclusion:

在 AI 技術領域的快速發展中，Cloud 3 Model 家族的出現將為 AI 工程師和開發者帶來新的挑戰和機遇。透過不斷比較和評估不同模型的優劣，我們將能夠找到最適合特定用例的解決方案。

Q & A