在 AWS re:Invent 2024 年度大會上 Amazon 現任 CEO Andy Jassy，公布了Amazon 最新一代最先進的大語言模型Amazon Nova，令人為之驚艷。Amazon Nova 提供企業低延遲的生成體驗且較其他廠牌之大語言模型少了 75% 的使用成本，且令人更興奮的是，Amazon Nova 支援繁體中文！本期文章將帶您了解 Amazon Nova 的全貌並帶您操作如何使用。
延伸閱讀： AWS re:Invent 2024 最新技術完整整理
Amazon Nova大解密，裡面有哪些模型？
根據不同的使用情境，Amazon Nova 分為四種不同等級
-
Micro：系列中最經濟實惠的純文字模型，專為低延遲需求設計。它的上下文長度可達 128K 字元，特別適合像文字摘要、翻譯、內容分類、互動聊天、腦力激盪、簡單數學推理和基礎程式碼生成這類任務。而且，Nova Micro 還支援微調(Fine-Tune)和模型蒸餾(Model Distillation)，可以用來客製化模型，提升特定任務的準確度。
-
Lite：性價比高的多模態模型，可以處理文字、圖片和影片輸入，並生成文字回應。它能夠精準地應用於即時客戶互動、文件分析和視覺化問答等情境。支援 300K 字元的輸入長度，還能一次處理多張圖片或長達 30 分鐘的影片內容。Nova Lite 也能微調並進行模型蒸餾，為不同使用場景提供高品質且具成本效益的解決方案。
-
Pro：功能全面的多模態模型，具備高準確度、速度和經濟性，適用於多種任務需求。它同樣支援 300K 字元的上下文長度，適合用於處理複雜的任務和代理工作流程，比如 API 調用、跨流程任務整合等。Nova Pro 表現在視覺問答和影片理解上尤為突出，也擅長財務文件分析，甚至能處理超過 15,000 行程式碼的程式庫。此外，它也是 Nova Micro 和 Lite 客製化模型的「老師」。
-
Premier：這是目前系列中最強的多模態模型，專為處理複雜推理任務而設計。它也是用於教導其他自訂模型的最佳選擇。Nova Premier 還在訓練中，AWS 預計於 2025 年初推出。
除了上述四種模型之外 Amazon Nova 也推出了圖/文字生成圖片的服務 Amazon Nova Canvas，其功能還包括豐富的編輯功能，例如修復圖像、根據元有圖像加入元素和去除背景。
Amazon Nova Reel 是目前最先進的影片生成模型。透過簡單的文字提示或圖片，你就可以輕鬆製作短影片，並自由控制影片的風格和節奏，非常適合用來製作行銷、廣告或娛樂用途的專業級影片內容。與現有的其他模型相比，Nova Reel 的影片品質和一致性在人工評估中表現更為優異。
在 Andy Jassy 演講的最後，他也跟大家分享了Amazon Nova 未來可生成所有素材，包含 Speech-to-Speech，語音輸入產生語音輸出。更厲害的是 Any-to-Any，也就是輸入任何素材可以請 Amazon Nova 產出任何素材，這是目前市面上的大語言模型所未見到之遠景。
如何使用Amazon Nova？Ckmates架構師帶您手把手操作
要使用 Amazon Nova 目前只能透過 Amazon Bedrock 上的 Console 或是 API 來進行存取使用，下面為使用的操作流程：
-
到 Amazon Bedrock Console 設定模型存取權，並訂閱 Amazon Nova
-
透過 Play Ground 選擇 Chat 並選擇剛剛訂閱的 Amazon Nova 模型
-
可以在 PlayGround環境調整系統提示詞、溫度和 Top P 值
-
Amazon Nova 也可以透過 API 調用，下面 以AWS cli 為範例
aws bedrock-runtime converse \
--model-id us.amazon.nova-pro-v1:0 \
--messages '[{"role": "user", "content": [{"text": "什麼是AWS"}]}]'
Amazon Nova 圖片以及影片生成流程
-
在 Amazon Bedrock Playground 選擇 Image/Video，並選擇 Nova Canvas 圖片生成模型
-
可在左邊調整 Negative prompt、總共要生成幾張圖片、亂數種子等參數
如果是透過 API 調用語法:
aws bedrock-runtime invoke-model \
--model-id amazon.nova-canvas-v1:0 \
--body "{\"textToImageParams\":{\"text\":\"貓在森林裡面跑動\"},\"taskType\":\"TEXT_IMAGE\",\"imageGenerationConfig\":{\"cfgScale\":6.5,\"seed\":12,\"width\":1280,\"height\":720,\"numberOfImages\":3}}" \
--cli-binary-format raw-in-base64-out \
\
--region us-east-1 \
invoke-model-output.txt
-
要生成影片選擇模型 Amazon Reel
-
因為生成影片檔案的大小會比較大，會跳出通知顯示你必須建立一個 S3 Bucket 來儲存生成的影片
-
可以透過文字或是圖片產出影片
就可以經鬆製成以下這樣的影片囉：https://youtu.be/pyratNqTJG8
如果是透過 API 調用語法:
aws bedrock-runtime start-async-invoke \
--model-id amazon.nova-reel-v1:0 \
--region us-east-1 \
--model-input file://modelInput.json \
--output-data-config file://outputDataConfig.json \
--output json
CKmates 持續關注市場動態與最新技術發展，為您帶來第一手的科技資訊。想了解更多關於 Amazon Nova 與其他創新服務的最新消息，歡迎隨時鎖定您的雲端數位長 CKmates。
文章出處：CKmates AWS Ambassador Tony Chung
AWS AI 服務系列專欄：
