谷歌Gemma: 一款基于PyTorch的开源语言模型,继承了谷歌Gemini的强大技术。Gemma模型在自然语言处理任务上表现出色,如文本生成、翻译、问答等,为研究者提供了一个优秀的实验平台。
特性
-
框架支持:Gemma 支持通过 Keras 3.0 在主要框架(如 JAX、PyTorch 和 TensorFlow)上进行推理和监督微调(SFT)。
-
易于使用:提供即用型的 Colab 和 Kaggle 笔记本,并与 Hugging Face、MaxText、NVIDIA NeMo 和 TensorRT-LLM 等流行工具集成,使开发人员能够轻松上手。
-
部署选项:预训练和指令微调的 Gemma 模型可以在笔记本电脑、工作站或 Google Cloud 上运行。部署选项包括 Vertex AI 和 Google Kubernetes Engine (GKE)。
-
优化性能:Gemma 在包括 NVIDIA GPU 和 Google Cloud TPU 在内的各种 AI 硬件平台上表现出色。
-
吸引开发者:Google 希望通过 Gemma 吸引开发者到其 Vertex AI 云平台。
安装
可以使用 Google AI Studio 快速测试 Gemma 2,而无需设置开发环境。此 Web 应用程序允许您试用 Gemma 2 的提示并评估其功能。
在 Google AI Studio 中试用 Gemma 2:
- 打开 AI Studio
- 在右侧的 Run settings 面板的 Model 字段中,选择一个 Gemma 2 模型。
- 在中心面板的底部,键入提示,然后选择 Run (运行)。