2024-01-03
大語言模型的最新突破,Claude 2.1 引領潮流融入 Amazon Bedrock 的整合式人工智能平台,為 AWS 雲端用戶提供可靠且高可用的即時應用。 圖 / AWS日前宣佈 Claude 2.1 已在 Amazon Bedrock 推出。 ChatGPT 最強對手:Claude 2.1 提供更準確的內容 ChatGPT 作為 OpenAI 的產品,一直在自然語言生成領域占據主導地位,ChatGPT 以流暢的語言和廣泛的應用範圍著稱,但在長時間對話的上下文管理以及準確性方面不是這麼精準,而也正是企業在運用 AI 技術所需克服的一些瓶頸,也因此 Claude 的出現為那些尋求更精確、更可靠對話管理解決方案的企業級用戶提供了更佳的選擇。 在說明 ChatGPT 與 Claude 對企業選擇上的差異性時,我們通常會舉這些例子說明:例如建立一個企業級 AI 助手來協助撰寫涉及諸多細節的商業合約時,ChatGPT 在處理長對話時可能出現記憶障礙,需要重複提醒以保持對話效率。相比之下,Claude 2.1 則在長期對話管理上表現更加出色,能夠精確回憶並基於此提供準確內容。 又例如一家軟體公司需要讀取大量技術文件時,ChatGPT 可能因上下文限制而忘記細節,這在需要高度精準一致性的技術對話中是個不容忽視的問題。Claude 2.1 則能夠在長時間技術討論中有效追蹤所有細節,不遺失先前的對話內容。 這些因素使得企業級用戶更傾向於使用像 Claude 2.1 這樣的大語言模型解決方案,而 AWS 客戶已經可以在 AWS 的強大基礎設施上部署和運行這個先進的大型語言模型,為客戶提供穩定且可高用的 Claude 2.1 雲端運行環境,使人工智慧的力量能夠更容易被各行各業的企業和開發者所採納及應用。 Amazon Bedrock 在介紹如何在 Amazon Bedrock 使用 Claude 2.1,首先我們先簡單介紹此項 AI 模型雲平臺。 Amazon Bedrock 是一個全托管的機器學習 API 服務,提供了多種高性能的機器學習基礎模型(FMs)選擇如 Claude、Titan、Llama、Stable Diffusion 等,可供使用者在建立生成式人工智慧應用程序時所需的各式功能。由於沒有一個模型適用於所有的場景,因此使用者需要可以輕鬆選取各種模型的雲平台,來針對所需服務選擇最符合需求的模型。 Amazon Bedrock 簡化了開發過程,保障了安全性、隱私和負責任的人工智慧,您無需管理任何基礎架構,即可安全地將生成式人工智慧功能集成並部署到您已熟悉的 AWS 服務中。 如何在 Amazon Bedrock 使用 Claude 2.1 ? 看完了上述 Claude 以及 Amazon Bedrock 的介紹後,以下將說明 AWS 客戶如何在 Bedrock 上簡單且快速的使用 Claude 2.1 : 在搜尋欄中我們輸入及選擇"Amazon Bedrock” 在這裡我們選擇 Model access,並且點擊 Manage model access 的橘色按鈕 這裡選擇 Claude 及 Claude Instant 並啟用 在右側導航列中選擇 Chat,並點擊 Select model 選擇 Anthropic 的 Claude 2.1 版本 現在,透過對話框就可以實時測試及取得 Claude 2.1 的回覆了! 如下圖所示,軟體人員也能透過 AWS 所提供的 SDK,將 AI 功能整合進企業軟體中,協助軟體人員以更高效、靈活的方式撰寫程式碼。 銓鍇國際 CKmates 針對企業數位轉型等 AI 及大數據議題,提供完善的企業資料治理及處理解決方案,協助企業有效搜集大量數據資料並透過雲端架構及分析工具,運用 AI 技術提升整體效率並降低成本!
2023-12-01
AWS 年度技術大會 re:Invent 2023 於拉斯維加斯登場,現場湧進 5 萬名參加者一起共襄盛舉。AWS 執行長亞當·賽利普斯基(Adam Selipsky)也如往常進行 2 個小時的主題演講,此次 AWS 將焦點聚焦於 AI 議題,推出眾多軟硬體產品服務以及更新。 CKmates 銓鍇國際身為企業雲端數位長,整理 AWS re:invent 2023 亮點回顧,以及雲端創新服務以及各用的應用發展。 圖/AWS 執行長亞當·賽利普斯基。(翻攝自AWS) AWS 自研晶片亮相!深化 NVIDIA 合作 1. AWS 和 Nvidia 擴大生成式 AI 的合作夥伴關係 在 AWS re:Invent 大會上,NVIDIA 創辦人黃仁勳為重量級嘉賓,上台與 AWS 執行長 亞當·賽利普斯基(Adam Selipsky)訪談,並宣佈與 AWS 的策略合作,AWS 將是第一家部署 Nvidia GH200 芯片的雲服務提供商,將聯手打造最新超級電腦基礎設施、軟體及服務,滿足客戶在大型語言模型以及生成式 AI 上所需算力。 圖/NVIDIA 創辦人黃仁勳為重量級嘉賓,並宣佈與 AWS 的策略合作。(翻攝自AWS) 2. AWS 獨家晶片處理器 除了深入與 NVIDIA 合作,AWS 也積極開發自研晶片,此次在 re:Invent 中發表全新 Trainium2 AI 晶片和 Graviton4 處理器。 AI 訓練晶片 Trainium2 Trainium2 為專門訓練 AI 模型的晶片,相較於第二代的效能提高 4 倍、能源效率也提高 2 倍。 ARM 架構處理器 Graviton4 以 Arm 架構為基礎的 Graviton4 處理器,和前一代處理器相比運算效能提高了 30%,核心數量增加了 50%,記憶體頻寬則增加了 75%。目前 Graviton4 僅有預覽形式,預計將於未來幾個月開放給更多企業使用。 系列生成式AI應用服務 此次 AWS re:invent 活動強調 AI 的重要性,推出一系列人工智慧應用服務, AWS 宣布將在其多樣主要雲端產品服務中,加入及運用人工智慧功能,希望助多元產業客戶掌握 AI ,搭上此新科技浪潮。 圖/AWS 宣布推出由生成式 AI 驅動的個人助理「Amazon Q」。(翻攝自AWS) 1. Amazon Q AWS 此次宣布推出由生成式 AI 驅動的個人助理「Amazon Q」 ,Amazon Q 為企業用的 AI 聊天機器人,可連結多種軟體,包含: Google Drive 、 Microsoft 365 等,透過其內容,協助企業打造量身訂做的對話內容,執行多種任務,包括撰寫電子郵件、分析產業趨勢等。 其中 AWS BI 服務 Amazon QuickSight 以及客服軟體服務 Amazon Connect 都會加入此 AI 功能。此外,Amazon Q 接受了 17 年的 AWS 雲端經驗以及知識培訓,可同時提供企業 AWS 解決方案和產品的建議,加速開發功能。目前 Amazon Q 現已向客戶提供預覽版,欲了解更多資訊,可至官網查詢(aws.amazon.com/q/)。 2. Amazon Bedrock 大型語言訓練模型 Amazon Bedrock 推出三項客製化功能,其中新加入「微調(fine-tuning)」功能,讓用戶能簡易地加入指定資料,提供更貼切企業需求的回答。 儘管大型語言模型給個人或者企業帶來許多效益,但也伴隨著一些安全與偏見地問題的產生!一向將資安擺在第一位的 AWS 也宣布推出「Guardrails for Amazon Bedrock」,這項新功能可協助使用者自行定義並限制語言,用來消除敏感性資料,守護 AI 運用的合法合規,並著重保護用戶的隱私安全。如:防止產出會對品牌造成傷害的內容,抑或是違反道德以及錯誤的答案。 強化基礎模型!提升用戶體驗 Amazon S3 Express One zone 因應現代資料處理分析對於資料讀寫的需求,AWS 宣布 Amazon S3 Express One zone 儲存層級,相較於 Amazon S3 標準層級,S3 Express One Zone 可以提高數據抓取速度 10 倍,並將成本降低 50%,有助於提升機器學習培訓、交互式分析和媒體內容創建等工作負載效率。 資料管理不易?AWS 兩功能更新 提升處理效 實現 AI 需建立在數據的應用,而數據要能發揮價值,必須做好「資料治理」,AWS 更新 2 大服務,協助企業方便管理資料。 圖/AWS 更新 2 大服務,協助企業方便管理資料。(翻攝自AWS) 資料庫整合 zero-ETL 繼去年 AWS re:invent 2022 推出整合關聯式資料庫 Amazon Aurora 支援和資料倉儲服務 Amazon Redshift 不需要執行 ETL 處理流程服務,今年 AWS 宣布新增 Amazon Aurora PostgreSQL、Amazon RDS MySQL 及 Amazon DynamoDB,這些數據庫中的資料可立即同步於 Redshift 資料倉儲歸檔,降低將不同來源資料轉換清洗的流程耗時。 Amazon DataZone AI Amazon DataZone 推出新的生成式 AI 功能預覽推薦功能,使用者只需輕鬆點擊相關設定,便可自動生成商業資料至目錄分類,包含資料描述、分析案例等,數據分析師可以擁有更多的業務上下文內容,引導他們做出更精準的商業決策。 AWS re:invent 2023 今年將主題著重在 AI 以及資料處理發展,CKmates 今年也推出資料治理解決方案,協助企業掌握數據力;同時我們擁有專業顧問團隊,並搭配 AWS 最新產品以及服務技術,一同邁向永續成長!詳細了解以上 AWS 新服務運用,或是業務相關合作,歡迎與我們聯繫。
2023-10-19
作者:Tony Chung 今年,生成式 AI 成為最受矚目的話題之一,其強大的應用能力引起了廣泛的關注。在這個快速變遷的數位時代,我們不僅在探討生成式 AI 的應用前景,同時也思考如何巧妙地將它融入過去的 IT 工作架構中。特別是對於資料分析師而言,生成式 AI 提供了一個更加吸引人的機會。許多資料分析師開始思考如何將生成式 AI 與商業智慧(Business Intelligence, BI)工作相結合。這種結合不僅能夠提高工作效率,還能為使用者提供更深層次的洞見和資訊。 本期架構師專欄中,我們將探討: 什麼是 Amazon Quicksight? 生成式 AI 加上 BI 工作能達到什麼綜效? Amazon Quicksight 客戶案例 什麼是Amazon Quicksight,他能幫助我什麼? Amazon Quicksight 是一款由 AWS 推出的雲端商業智慧工具,讓使用者能更輕鬆地分析以及資料視覺化,以找出有價值的商業洞見。Quicksight 非常直觀且易於使用,透過拖拉的方式呈現互動式圖表,為一般人提供了無縫的資料分析體驗。 透過使用 Amazon Quicksight ,你可以輕鬆連接並整合各種資料來源,無論是來自雲端還是地端的資料庫。這種高度的資料連接性讓使用者能夠在一個統一的平台上查看和分析來自不同來源的資料。Amazon Quicksight 強大的視覺化功能,能夠將龐大的資料轉化為易於理解的圖表和圖形,從而讓使用者更快速地瞭解資料的內涵。這不僅節省了時間,還提高了資料分析的效率。 圖/AWS 官網。 生成式 AI 尬 BI ,蹦出新服務,生成式BI 生成式 AI 可以透過人類的自然語言產出文字以及圖片,那如果跟BI結合會變成什麼樣子呢? Amazon Quicksight 也搭上這股生成式 AI 的熱潮,推出生成式BI的解決方案,使用者可以透過自然語言產出相對應的圖表,例如:請幫我產出 2023 年 Q3 的業務人員業績圖表,Quicksight 就會跟據串接的資料來源產出最適合的圖表。 圖/AWS 官網。 另外,您可能需要針對的互動式報表撰寫文字解釋,透過 Quicksight data story 功能,他可以幫您產出解釋性文字,並搭配圖表產出一份報告,如果您對於他撰寫的方式不滿意,例如:想從段落式的文字轉變成條列式的,data story 也可以透過生成式 AI 的力量協助您產出相對應的文字。 圖/AWS 官網。 客戶案例: CKmates 協助全台知名線上免稅商城透過 Quicksight 分析網路攻擊流量 全台知名線上免稅商城為了要提供消費者安全的線上平台,他們使用了 AWS WAF 來阻擋 L7 的網路攻擊,進一步提升網站的安全性。為了要更深入地去分析出攻擊的來源國家、攻擊的類型以及時間,他們分析了 WAF 的 log 並透過 Quicksight 並進行視覺化的呈現。 CKmates 協助他們採用了 Quicksight 視覺化報表使他們獲得了許多的好處,包含:Quicksight 可以跟多種 AWS 服務無縫整合,例如 S3、Glue、Athena、RDS、Redshift 等,可以顯著降低整合所需的學習曲線。 其次,它節省了大量的時間和資源,因為 Quicksight 是一個完全託管的無伺服器解決方案,不需要建立和維護額外的基礎設施,以便他們可以專注於其他重要任務。 第三,Quicksight 提供了多種圖表和視覺化功能,可以根據資料的類型和特點進行選擇,包括長條圖、折線圖、地圖等,使他們能夠用更令人淺顯易懂的方式了解網路攻擊等相關資訊。 圖/AWS 官網。 AWS 原廠認證 Quicksight 資格合作夥伴 CKmates 助您一臂之力! 看完本月專欄您也想要採用資料分析解決方案嗎?或是公司內部資料分析不知道如何透過 Quicksight 將資料視覺化產生互動式報表?讓 AWS 原廠認證 Quicksight 資格合作夥伴 CKmates 助您一臂之力! CKmates 於今年9月通過 AWS 原廠 Quicksight 資格合作夥伴認證,通過此認證代表合作夥伴能夠協助客戶更好的採用 Quicksight 並串接相關 AWS 大數據相關的服務使整體資料分析流程更加完善。如果您也有資料分析相關需求歡迎聯繫我們! 更多 AI 運用文章: 電商必備 AI 行銷神器!如何運用 Amazon Personalize 黏住客戶、提升業績 運用 AWS 打造生成式 AI !多元產業應用指南
2023-10-03
在傳統的地端環境中,企業需要花費很多的成本資源來建置維護硬體設備以及人力資源,因此,越來越多企業開始考慮遷移到雲端以解決問題,並提高效率和彈性。 雲端遷移是將地端環境資料中心的資料、應用程式以及 IT 資源遷移至雲端,這需要大量的準備工作以及前置作業,銓鍇國際 CKmates 擁有多元產業雲端遷移經驗,運用雲端遷移通用策略(下圖),助企業快速遷移部署雲端資源: 圖/擁有廣泛經驗的銓鍇國際提出可行的 7R 雲地遷移成熟策略。 4 種雲端服務有效取代地端機器 那我們可以如何運用雲端資源來解放企業複雜的機房環境呢?一般來說,企業地端環境中主要存有 NAS 以及 Windows Server 和 SQL Server 等設備,可以運用以下 4 種雲端服務,來有效管理並節省更多資源: 1. Amazon S3/Amazon FSx for Windows File Server 企業可以使用 Amazon S3 或 Amazon FSx for Windows File Server 等雲端存儲服務取代 NAS,這些雲端存儲服務提供了可擴展性、資料可用性、安全性及效能,同時大幅減少了客戶自行管理和維護 NAS 的負擔。 2.Amazon EC2/Amazon RDS 企業在管理 Windows Server 和 SQL Server 時, 需要花費大量時間和精力來維護和更新這些服務,且當地端機器發生故障時,資料復原更是一大挑戰!企業若選擇遷移雲端,可選擇使用雲端虛擬主機 Amazon EC2與託管資料庫 Amazon RDS 取代地端的 Windows Server 和 SQL Server ,AWS 將負責維護以及升級雲端服務,企業只需專注於自身資料管理,同時只需支付相對較低的費用。 企業將地端資料中心遷移到雲端後,IT 人員可大量節省在資訊設備、系統與維護的成本、提高擴展性,同時享受更多雲端加值服務如佈署自動化、資料大數據分析、機器學習及資安防護等。 AWS 雲端遷移案例實踐 圖/原地端主機,可透過雲端搬遷工具將地端服務與虛擬機快速搬遷至雲端。 CKmates 透過雲端搬移工具,將地端服務與虛擬機快速搬遷至雲端,以下分享我們上市大型電子製造業客戶案例如圖(二),該客戶目前因為舊地端機房、伺服器及網路設備正面臨老舊淘汰及資訊管理人員嚴重不足的困境。隨著公司業務的擴展,SAP 和 Oracle 等資料的備份資料量逐漸增加,導致現有的地端空間無法再應對龐大的資料需求。為了解決這個困境,客戶希望能夠將其虛擬機及備份資料無縫接軌地持續傳輸上雲,並期望於地端災難發生時迅速切換至雲端進行營運。 同時透過 AWS DRS 的持續災難備援傳輸功能,不中斷的持續複製客戶地端重要系統虛擬機及資料上雲。在災難演練時,能夠直接透過切換流量讓雲端系統能夠直接服務實際客戶流量。並且在地端機房設備完全淘汰後能夠直接將備援區切換至正式區進行服務,實現遷移無縫接軌! AWS DRS 產品優勢: 無縫傳輸:不中斷地將地端資料持續複製上雲,確保資料及系統的隨時可用性 。 彈性調整:上雲的主機及成本結構可根據企業的實際需求隨需調整,滿足不同企業的需求。 安全可靠:可採用 TLS/SSL及 VPN 加密技術,保障網路傳輸時資料安全 。
2023-09-07
一般而言,製造業在應用雲端服務的腳步相較其它行業,是較為緩慢的;主要原因在資訊系統的軟硬體投資攤提及資料處理的即時性等;然而隨著商業營運型態改變,商品或服務的更替頻率增快,製造端須能更靈活的配合,雲端服務的彈性架構、穩定性及軟體服務的多元性、創造性,讓製造業開始將系統往雲端佈署。 銓鍇國際 CKmates 已成功協助多家製造業者架構雲端及混合雲系統,依據執行經驗歸納出以下製造業在評估應用雲端服務時需考慮的關鍵面向: 一、安全性與容錯性: 保護敏感的製造數據和知識產權至關重要,該雲端服務應提供強大的安全性功能,如數據加密、訪問控制、身份驗證和防火牆,以確保數據不受未經授權的訪問和惡意攻擊的威脅。同時,生產設備和供應鏈必須隨時保持運作,因此雲端服務需要具有高可用性和容錯性,以減少生產停機時間。 二、數據整合與恢復: 製造業擁有龐大的數據,這些數據來自各種設備、傳感器和系統。應用雲端服務應該能夠無縫整合現有的數據源,以實現實時數據分析和洞察。此外,若數據丟失或系統故障可能對製造業造成重大損失,因此,雲端服務應該提供可靠的數據備份和恢復機制,以確保數據的安全性和可恢復性。 三、未來擴展性及持續性: 企業應該考慮雲端服務是否能夠滿足未來的需求和擴展計劃,以避免需要不斷遷移和更換系統。此外製造業應考慮雲端供應商的環保政策和可持續性承諾,以確保其業務運營與環境保護相協調。 四、使用者培訓和支援: 員工需要適應新的雲端工具和應用。因此雲端服務商提供適當的使用者培訓和技術支援對於成功實施雲端服務至關重要。 五、法規遵循: 不同國家和地區有不同的法規要求,特別是關於數據隱私和安全性方面。製造業必須確保所選擇的雲端服務符合相關的法規要求,並有適當的數據合規性策略。 製造業雲端轉型過程中面臨的挑戰不容小覷,需要專業的協助來克服這些挑戰。CKmates 在提供技術專長的同時,還能夠為企業提供轉型策略建議,我們擁有自有機房及專業的維運團隊,已協助如『濾能』、『宏正自動』等大型上市櫃公司成功遷移至雲端。 上圖為一般製造業資訊系統架構,我們擁有完整的雲地整合能力,同時也具備 AWS 遷移能力認證,善於利用 AWS 工具助企業將資源無痛遷移至雲端,對於需兼顧地端的客戶,我們將從雲端建置、遷移、資安、維運做到全方位的混合雲架構規劃。 下圖為製造業導入雲端服務後的混合雲資訊系統架構,應用數據飛輪原則,將地端各類製造資料,依據資料屬性及更新頻率,透過不同的AWS服務將資料彙整到資料湖(Data Lake)中,並結合雲端ERP系統的數據,應用雲端BI工具或其它資料分析服務將資料湖中的製造資料轉換成可被洞察的有效數據,據以優化生產計劃、排程並監控生產進度,有助於企業實現高效的生產、強化供應鏈,在競爭激烈的市場中保持競爭力。 同時我們可導入ISA-95標準來輔助克服轉換過程中的重重挑戰,ISA-95標準核心目標是實現生產過程的透明度和效率,其提供統一的語言和架構,有助於整合不同層級的生產系統,從工廠設備到企業級資源計劃(ERP)系統。這有助於實現端到端的數據流,從而使製造企業能夠更好地利用雲端技術。 製造業正處於一個迅速變化的時代,全球製造商正尋求更高效、更具競爭力的方式來管理業務。AWS 也提出製造業擁抱雲端技術後,可以運用收集到的寶貴數據達到飛輪效應,如:運用數據掌握工廠的生產效率以及質量,並優化產品設計以及客戶滿意度等,有效降低製造業的成本,並增加效益! 製造業雲端應用案例分享 Tesla 的製造業數據分析: Tesla 是一家全球知名的電動汽車製造商。他們使用雲端應用來收集、儲存和分析來自數千輛汽車的實時數據,包括性能、電池狀態、車輛位置等。這些數據有助於 Tesla 監控車輛的運作,提高產品品質,並通過車輛軟體更新改進車輛性能。同時,Tesla 也使用雲端應用來實現遠程診斷和維護,進一步提高了客戶滿意度。 Procter & Gamble 的製造品質控制: Procter & Gamble (P&G) 是一家全球的快速消費品製造商。他們使用雲端應用來實現品質控制和品質保證。通過將數據從生產線傳輸到雲端平台,P&G 可以監測產品品質,及時檢測任何不合格品,並跟蹤生產過程中的變化。這有助於提高產品的一致性,降低不合格品率,並確保產品滿足市場要求。 這些實際案例展示了不同製造業公司如何成功應用雲端技術來提高生產效率、品質控制、供應鏈管理和客戶滿意度。 總之,製造業擁抱雲端科技已經成為必要趨勢,CKmates 運用最適切的雲端解決方案,協助製造業在製造產品的當下,更加善用生產數據,進而提供更好的洞察,帶來實際的業務價值和競爭優勢。
2023-08-07
近年來,生成式人工智慧(Artificial Intelligence,AI)已經成為科技領域中的一股熱潮。生成式 AI 是機器學習模型的其中一類型,能夠自動生成具有真實感的內容,如文字、圖像、音頻等。這類模型通常基於大量的訓練數據,透過學習數據的統計特徵和模式,生成與訓練數據相似的全新內容。 生成式 AI 發展與挑戰 生成式 AI 的崛起源於深度學習和大數據的發展,深度學習技術的出現為 AI 的發展注入了新的活力,而大數據的蓬勃發展則提供了生成式 AI 所需的龐大數據集。生成式 AI 的應用範圍非常廣泛,包括自然語言處理、圖像生成、音樂合成等領域。它不僅可以用於提供更自然的語言交互、生成逼真的圖像和影片,還可以應用於設計、創意生成以及醫學研究等領域。 隨著生成式 AI 的快速發展,帶來多元產業運用以及商機,有望在各個領域中發揮重要作用,但同時也讓各領域的企業組織面臨一些挑戰!由於生成式 AI 的訓練和部署需要大量的計算資源和運算能力,銓鍇國際協助企業運用 Amazon Web Services(AWS)雲端服務,提供開發者最適切的一站式雲端解決方案,完整掌握雲端資源,助建立生成式 AI 領域應用開發和部署。 圖/DALL-E所生成 以下銓鍇國際重點整理 AWS 相關服務應用,分享生成式 AI 與 AWS 結合所帶來的更多機會和價值。 圖/AWS 如何運用 AWS 服務建立生成式 AI? Amazon Bedrock Bedrock 平台讓使用者可選擇使用 AI21 Labs、Anthropic、Stability AI 及 Amazon 自有基礎模型(foundation model,FM)等基礎模型,透過 API 串接的方式,結合 AWS 工具和功能來部署可擴展、可靠且安全的生成式 AI 應用程式。其中 AI21 Labs 可生成西語、法語、德語、葡語、義語、荷語文字。 Stability AI 則為「文字生成圖片」的模型,可生成高質量的圖片設計與 Logo 等。 Amazon Titan Titan Text 是一種生成式大型語言模型(LLM),適用於摘要總結、文本生成(如部落格貼文)、分類、開放式 QA 和搜尋資訊等任務。 Amazon EC2 Trn1n AWS 也針對 EC2 的 AI 建模需求,推出專用的 Amazone EC2 Trn1n 與 Inf2 執行個體。其中 Amazon EC2 Trn1 執行個體採用 AWS Trainium 加速器技術,專為產生型 AI 模型的高效能深度學習 (DL) 訓練打造,包括大型語言模型 (LLM) 和潛在擴散模型。據 AWS 資料,Trn1可縮短 20% 訓練時間,且與其他同類 Amazon EC2 執行個體相比,Trn1 最多可省下 50% 的訓練成本。 Amazon EC2 Inf2 Inf2 執行個體採用第二代 AWS Inferentia 加速器,AWS Inferentia2。是 Amazon EC2 中的首個推論最佳化執行個體,可透過加速器之間的超高速連線,效能價格比高出 EC2 Inf1 達 40%,以高效率且符合成本效益的方式部署具有數千億個參數的模型,可助新創公司的 AI 模型產出資料時,大幅度節省成本。可運用於如文字摘要、程式碼、影像生成以及詐騙偵測。 圖/AWS Amazon CodeWhisperer Amazon CodeWhisperer 為一款 AI 程式設計助手,經過數十億行程式碼訓練,可根據您的註解和現有程式碼,即時產生程式碼建議,除了適用 Python、Java、JavaScript、TypeScript 和 C#之外,更支持 Go、Kotlin、Rust、PHP 和 SQL 等 10 種開發語言,也就是 AWS CodeWhisperer 助開發者一站產出所有程式碼建議,略過耗時的編碼任務,提升省效率! 圖/ AWS 生成式 AI 產業運用 生程式 AI 在諸多行業均有很多實戰的應用,比如現在電商行業蓬勃發展,老牌電商和新興品牌常有補貼、行銷的競爭,每個品牌都希望能提升用戶體驗、提升黏著度、改善營運流程,進而增加銷售量。這時就可以運用生成式 AI 的個性化推薦服務,生成式 AI 能夠分析用戶的購買歷史、瀏覽記錄和喜好,從而為每位用戶提供個性化的商品推薦,這樣的推薦系統可以增加交易轉化率,提高客戶黏著度。 生成式 AI 亦能協助平台漸少成本,比如產品描述和廣告文案和智能客服和問答系統,前者可以幫助行銷人員進行創意發想,產生更具吸引力和說明性的產品描述和廣告文案,有助於增加商品的曝光率,提高用戶對商品的理解,從而增加銷售量;智能客服和問答系統則可用於回答用戶常見問題,提供即時幫助,減輕客服人員的工作負擔,同時提供更高效的用戶體驗。 這些只是生成式 AI 在電商行業的一些應用範疇,隨著技術的不斷發展,將有更多創新的應用出現,為電商行業帶來更多商機和競爭優勢。 總結來說,AWS 作為一個全球領先的雲計算平台,提供了強大的基礎設施和工具,以支持生成式 AI 的開發和應用。而隨著生成式 AI 共生的新型態運營來臨,企業將如何掌握數據資源,部署雲端 AI 模型?銓鍇國際 CKmates 擁有多元產業數位轉型經驗,利用AWS的服務和工具,快速構建、訓練和部署生成式 AI 模型,並將其應用於各種領域,提供企業全面的解決方案,助企業能夠輕鬆導入並運用生成式 AI 技術,從中獲得最大的商業價值!助企業提高業務效率,並幫助企業快速擁抱 AI 時代,開拓無限可能性。 更多 AI 運用文章: 電商必備 AI 行銷神器!如何運用 Amazon Personalize 黏住客戶、提升業績 AI 賦能時代下的 Amazon Quicksight 生成式 BI 解決方案
2023-07-06
數位經濟時代來臨,數據儼然成為全球企業經濟發展的重要驅動力!近年來「數位轉型」一直是企業營運策略的主要目標之一,且經過疫情的洗禮,人們社會與生活型態經歷完全轉變,也改變企業經營方式。據麥肯錫2020年調查報告註[1],疫情前,有48%的企業認為數位轉型的主要目的是「節省成本」;疫情後,68%的企業認為數位轉型可增加競爭優勢,認為是「節省成本」的僅占10%,可見 IT 和數位轉型的價值漸趨重要,提升競爭力已是企業進行數位轉型的首要目標,而「數據驅動」則是執行的策略與方針! 數據驅動5大商業營運模式必勝優勢 銓鍇國際 CKmates 擁有專業雲端技術與豐富的產業導入經驗,在致力於協助產業數位轉型期間發現,若企業以數據驅動為商業營運基礎,有機會獲得以下5大關鍵優勢: 決策制定:數據驅動的營運模式使企業能夠以事實為基礎做出決策。企業可以通過數據分析獲得寶貴的洞察,了解市場趨勢、顧客行為和競爭對手情報,以便做出更明智的戰略和戰術決策。 客戶洞察:數據驅動的營運模式可以幫助企業深入瞭解客戶。通過數據分析,企業可以了解客戶的喜好、需求和行為,從而提供個性化的產品和服務,改善客戶體驗,提高客戶忠誠度。 效率提升:數據驅動的營運模式可以幫助企業提高運營效率。通過數據分析,企業可以識別和解決流程中的瓶頸和低效,從而優化供應鏈、降低成本、提高產品生產力。 創新和新機會:數據驅動的營運模式可以揭示新的市場趨勢、需求和機會。企業可以根據這些數據洞察,進行產品創新、開發新的市場策略,以適應不斷變化的市場需求,保持競爭優勢。 預測和風險管理:數據驅動的營運模式使企業能夠更好地預測未來趨勢和風險。透過數據分析,企業可以對市場需求、銷售趨勢、供應鏈風險等進行預測和模擬,並制定相應的應對策略,降低風險並提前應對變化。 總結來說,數據驅動的營運模式通過數據分析和洞察,使企業能夠更加敏捷、高效地運營,做出更明智的決策,提供更優質的產品和服務,並創造更多的商業價值。它已經成為現代企業成功的關鍵因素之一。 銓鍇國際數據驅動客戶案例 銓鍇國際針對企業數位轉型議題提供完善的企業資料治理解決方案,運用 Amazon Web Services(AWS) 數據分析服務,成功協助製造業、資訊科技、傳播廣告、電商與遊戲產業等在 AWS 雲平台上進行數據收集、儲存、處理和分析,幫助企業在 AWS 雲平台上構建和運營數據驅動的解決方案。 打造最佳化架構!助製造業掌握即時數據價值 以數據分析使用者的角度來看,裝置資料的屬性有兩類: 即時資料:即時性的數據分析需求,能立刻依據分析結果做出營運決策。 批次資料:區間性的數據分析需求,依據分析結果做預測,或數據經整理後提供給外部系統或廠商。 即時資料 裝置資料傳送至 IoT Gateway 裝置 (AWS Greengrass Certified),由 IoT Gateway 裝置過濾及彙整裝置資料,將資料上傳至 IoT Core,依據事先定義的 IoT Rule 觸發 Lambda功能 (無伺服器程式服務) 執行 ETL (抽取、轉換、加載) 作業,並將整理後的資料儲存至 Amazon Redshift (資料倉儲服務) ,數據分析使用者可使用 Amazon QuickSight (視覺化BI工具) 讀取 Redshift 內的資料做出商業或營運決策。 批次數據 裝置資料傳送至 NAS 主機存放,並透過 NAS 內建的雲端物件儲存模組將資料上傳至 Amazon S3;運用 AWS Glue 服務梳理 S3 上的資料,轉換成商業數據,並將資料的 Metadata 存放在 Glue Data Catalog 上,內部人員可透過 Glue 去讀取 S3 上的資料,而外部系統使用者可透過 Amazon Athena 以結構式查詢語言 (SQL) 語法查詢 S3 上的資料,無需預先載入數據或管理基礎設施,並運用 QuickSight 分析大規模數據並產出視覺話報表。 銓鍇國際協助製造業將工作負載遷移,針對系統架構進行最佳化的規劃,並應用 AWS 數據驅動服務,將原本的 OT 資料轉化為 IT 資料,讓數據分析使用者使用 BI 工具查詢即時數據與批次數據,做出商業或營運決策,有效提昇營運效率。 註[1]:McKinsey & Company - Survey - How COVID-19 has pushed companies over the technology tipping point—and transformed business forever, Oct 5, 2020
2023-05-29
近年來全球數位科技發展快速,日前金管會更宣布金融機構業務委外辦法修法,據聯合報報導新法案預計最快將於今年(2023年)9月正式上路 ,依目前草案內容,銀行在建立妥善之委外治理架構下,除了涉及重大性消費金融業務資訊系統委託至境外處理以外 ,得採事後申報制免除逐案事先申請,金融機構可自行佈署於公有雲後再向金管會進行申報,有助加快金融創新速度,卻也使台灣金融業數位轉型更為激烈,若不能及時跟進數位轉型,將會失去市場競爭力。 儘管面對數位轉型刻不容緩,然而涉及大量敏感資料以及客戶隱私的金融業,轉型障礙較其他產業更高: 金融業上雲3魔王關卡 一、合規性問題的關鍵挑戰 金融業的核心業務涉及敏感的財務資料和客戶數據,為了保護這些數據的安全和隱私,金融機構更應重視雲端合規遵循與強化安全治理,並遵循政府規定,如:如風險評估及管理機制、相關系統查核報告、資訊安全管理以及緊急事件應變能力等,這些法規要求金融機構實施嚴格的安全措施,確保資料與雲端架構的保密性、完整性和可用性,以強化金融機構的作業韌性及客戶權益保障。 二、地端系統多且老舊 金融業長期以來依賴著各種地端系統,如核心銀行系統、支付系統和風險管理系統等,這些地端系統彼此缺乏互聯性,在上雲過程中整合不易;此外,地端系統的老舊,許多系統已運行數十年以上,過時的系統設施與技術,缺乏彈性和擴展性,使得整合工作變得複雜而困難。 三、技術人才供需不平衡 金融業數位轉型不僅涉及技術和基礎設施的升級,還需擁有足夠的技術人才來實現,台灣金融研訓院去年(2022年)的台灣「金融科技創新與數位轉型大調查」指出87%的銀行業者表示目前最缺乏「數位轉型策略規劃人才」,金融業可能因為缺乏專業人才延誤數位轉型,甚至對企業的競爭力造成損害。 除了以上3大轉型障礙,金融上雲規模龐大也是一大考驗,深耕雲端市場多年的銓鍇國際 CKmates 為 Amazon Web Services(AWS)進階級服務合作夥伴,已成功利用 AWS 服務助多家金融業者數位轉型!銓鍇國際深入了解金融業營運特性與合規性要求,協助部署符合法規且安全的雲端架構,並提供24小時不間斷的偵測及自動化告警服務,使企業可及時解決問題並進行優化,專注於保持營運上的領先地位,而無需分散精力處理雲端相關的挑戰和問題。 AWS 服務領航 助金融業迎來更安全與高可用性 以下我們也從電子支付平台以及數位證券券商兩大金融機構,如何運用 AWS 雲端服務架構,協助金融業完成數位轉型 : 電子支付平台 從以下架構圖中我們也可以看到,電子支付平台為了符合金融法規,將其資料庫分散在2個可用區域(Availability Zones,AZ)上,利用這種分區獨立性來實現其高可用性並提升容錯能力,有效保護客戶資料和交易的安全。 數位證券商 數位證券商被歸類為第四級金融業者,可以採用雲端這種新興科技為服務底層,透過 Amazon Relational Database Service(Amazon RDS)託管式關聯資料庫服務以及Amazon Simple Storage Service(Amazon S3)物件儲存服務進行資料管理;Amazon RDS 能夠在雲端環境中輕鬆管理金融機構繁雜資料庫,如協助數位證券公司有效地管理和儲存大量的證券交易數據,克服了以往系統資料多且雜亂,管理不易的種種挑戰,並可以使用 Amazon S3 大量儲存和管理數據,如交易記錄、用戶識別資料等,且其具備自動備份和故障恢復功能,確保數位證券公司的資料始終可用且安全。 此外可使用AWS資安服務來保護支付機密資料,如運用 AWS Identity and Access Management (IAM)身分與存取管理服務幫助支付金融機構設定使用者訪問權限,此外也可運用AWS WAF Web應用程式防火牆在支付平台應用程式以及 API 前端加上一層 L7 防火牆,對請求進行過濾與檢查,可有效阻擋跨站腳本攻擊(Cross-Site Scripting, XSS) 和 SQL 注入攻擊等。AWS WAF 也可以與其他 AWS 服務結合使用,如 Amazon CloudFront內容交付網路服務 和 Elastic Load Balancing (ELB)服務分配網路流量以提高應用程式可擴展性,實現全面的防護。 銓鍇國際 CKmates 不斷努力以 AWS 雲端服務架構協助金融業達成數位轉型的目標,提供多元的解決方案以及服務,協助業者將其核心營運機制從地端遷移至雲端,面對全球金融業革命性變革,提升永續發展!