Google宣布Gemma正式於Google Cloud開放使用 | 科技新聞 | 20240222 | match生活網

科技新聞

Google宣布Gemma正式於Google Cloud開放使用
Zeek玩家誌     2024/02/22 16:32

Google於2/22宣布推出Gemma,這是一系列先進的輕巧開放模型,採用與建立Gemini模型相同的研究與技術打造而成。Google也很高興地宣布,Google Cloud客戶現在可以在Vertex AI開始運用Gemma模型自訂與建構,並於Google Kubernetes Engine(GKE)中執行。Gemma的發表與Google更新的平台功能,展現了Google承諾讓運用Google Cloud的開發人員可以更開放、更易於使用AI的決心。

Gemma現已在Google Cloud推出

Gemma模型採用與Gemini模型相同的技術和基礎架構元件且功能性十足。這使得Gemma模型與同級開放式模型相比,有著領先的效能。Google目前推出兩種規模:Gemma 2B和Gemma 7B。每個規模都發布了預先訓練和指令調整版本,以利研究與開發。

Gemma支援Google Cloud開發者現今愛用的工具,包括Colab和Kaggle Notebooks,以及JAX、PyTorch、Keras 3.0和Hugging Face Transformers等框架。Gemma模型可以在筆記型電腦、工作站或是在Google Cloud上執行。藉著這些全新的開放模型,開發人員現今可在Vertex AI建構與客製化並於GKE執行。為了發揮出Google領先業界的效能,Google與NVIDIA攜手合作,優化Gemma在NVIDIA GPUs上的效能。

在Vertex AI釋放Gemma的強大功能

Gemma加入Vertex AI Model Garden裡的130多個模型,包括最近宣布的各種Gemini模型:Gemini 1.0 Pro、1.0 Ultra和1.5 Pro模型。透過在Vertex AI上使用Gemma模型,開發人員可以利用端對端機器學習平台,讓模型調整、管理和監控變得簡單直覺。借助Vertex AI,建構人員可以減輕營運負擔,將重心放在打造最能貼合自身需求的客製化版本Gemma。例如,使用Vertex AI上的Gemma模型,開發人員可以從事下列工作:

針對文字生成、內容摘要和問答等輕量級任務,構建生成式AI應用程式。使用自訂的輕量級模型進行探索和實驗,以支援研發作業。支援需要低延遲的即時生成式AI應用場景,例如串流文字。開發人員透過Vertex AI可以很輕易將自己調整的模型轉化為可供擴充的端點,從而為各種規模的AI應用程式提供支援。
– 使用GKE上的Gemma,將原型擴展到生產規模

GKE提供了建構自訂應用程式需要的工具,從簡單的專案原型設計到企業規模產品皆適用。開發人員現在也可以直接在GKE部署Gemma,創造自己的生成式AI應用程式,用來建構原型或測試模型功能。

在熟悉的工具鏈中,將自訂的微調模型佈署在可攜式容器中,並同時執行應用程式自訂模型服務和基礎架構配置,無需佈建或維護節點快速整合AI基礎架構並加以擴充,滿足最嚴苛的訓練和推論設定
GKE提供高效的資源管理、一致性的營運環境和自動資源調度功能。此外,經由輕鬆編排Google Cloud AI加速器,包含GPU和TPU,來強化作業環境,在建構生成式AI模型時更能加快訓練和推論速度。玩家們現在可以在Google Cloud的Vertex AI和GKE上開始使用Gemma模型。

這篇文章 Google宣布Gemma正式於Google Cloud開放使用 原創於 ZEEK玩家誌。

延伸閱讀: