背景

Google I/O 2025开发者大会上，谷歌宣布为ML Kit推出一组端上生成式AI（GenAI）API，这将彻底改变安卓应用集成AI能力的方式：开发者现在可以轻松将Gemini Nano模型集成到App应用中。

功能描述

ML Kit GenAI API首批发布了四个针对常见场景的API接口，每个都针对特定使用场景进行了优化：

• 文本摘要功能：可以将长篇文章或聊天对话浓缩为简洁的要点列表。
• 智能校对功能：通过优化语法和修正拼写错误，帮助用户润色简短内容。
• 风格改写功能：允许开发者以不同语气或风格重写短消息。如将普通文本改写为更专业或更友好的语气，适应不同沟通场景。
• 图像描述生成：为给定图片生成简短说明，大大提升了图像的可访问性。

这些API最大的优势在于它们开箱即用的高质量。谷歌通过特定功能的微调，使每个API的基准分数都显著高于基础Gemini Nano模型。

❝

参考链接：https://developers.google.cn/ml-kit/genai?authuser=3&hl=zh-cn

端侧AI的优势

与传统的云端AI处理不同，ML Kit GenAI API完全在设备端运行，这带来了三大核心优势：

• 数据隐私安全：所有输入、推理和输出数据都在本地处理，用户信息不会离开设备。这对于注重隐私的应用场景尤为重要。
• 离线功能可用：无需可靠的互联网连接，AI功能依旧可用。用户即使在网络信号差的场景下，也能享受完整的AI体验。
• 零额外成本：每次API调用不会产生额外的服务器费用，开发者可以无限次使用而不用担心成本飙升。

这些API基于AICore构建，这是Android系统服务，可实现设备端执行生成式AI基础模型。多个应用可以共享设备上的Gemini Nano模型，节省存储空间。

技术原理

ML Kit GenAI API的高质量输出源于其精心设计的四层架构：

• 层级1 Gemini Nano基础模型：作为所有API共享的基础，提供了强大的生成能力。
• 层级2 特定API的LoRA适配器模型：在基础模型之上进行训练和部署，进一步优化了每个API的质量。这种低秩适应（LoRA）微调技术使模型能更好地适应特定任务。
• 层级3 优化的推理参数：针对每个API进行调整，以引导模型返回最佳结果。不同的任务有不同的参数设置，确保输出最符合预期。
• 层级4 评估管道：确保API在各种数据集和属性上的质量。该管道由大语言模型评分器、统计指标和人工评分器组成，持续监控和改进API性能

性能表现

这些API最大的优势在于：开箱即用的高质量。谷歌通过特定功能的微调，使每个API的基准分数都显著高于基础Gemini Nano模型。

❝

据官方数据，摘要功能的得分从77.2提升到92.1，图像描述从86.9提升到92.3。

实际性能方面，这些API在高端安卓设备上表现优异。以Pixel 9 Pro为例：

具体使用

ML Kit GenAI API的设计保持了开发者友好的一贯传统：同时提供流式和非流式两种结果接收方式：

• 流式API：在生成回答时以增量方式提供，适合长内容；
• 非流式API：等待整个响应完成后一次性返回，适合简短回答

val articleToSummarize = "We are excited to announce a set of on-device generative AI APIs..."

val summarizerOptions = SummarizationOptions.builder(context)
    .setInputType(InputType.ARTICLE)
    .setOutputType(OutputType.ONE_BULLET)
    .setLanguage(Language.ENGLISH)
    .build()

val summarizer = Summarization.getClient(summarizerOptions)

❝

使用示例：https://github.com/googlesamples/mlkit/tree/master/android/genai

总结 & 未来展望

• ML Kit GenAI API的推出，标志着端侧AI正走向成熟，也为无数AI落地应用场景开启了新可能
• 对于安卓开发者来说，现在正是探索和集成这些AI能力的最佳时机，赶紧用起来吧！