Skip to content

用于 AI 驱动应用开发的 Kotlin ​

Kotlin 为构建 AI 驱动的应用程序提供了现代且实用的基础。
它可以跨平台使用,能与成熟的 AI 框架良好集成,并支持常见的 AI 开发模式。

Koog ​

Koog 是 JetBrains 推出的开源框架,用于构建从简单到复杂的 AI Agent。 它提供了多平台支持、Spring Boot 和 Ktor 集成、符合惯用法的 DSL, 以及开箱即用的生产就绪特性。

只需数行代码即可创建简单的 Agent ​

kotlin
fun main() {
    runBlocking {
        val agent = AIAgent(
            // 使用 Anthropic、Google、OpenRouter 或任何其他提供商
            executor = simpleOpenAIExecutor(System.getenv("OPENAI_API_KEY")),
            systemPrompt = "You are a helpful assistant. Answer user questions concisely.",
            llmModel = OpenAIModels.Chat.GPT4o
        )

        val result = agent.run("Hello! How can you help me?")
        println(result)
    }
}

Koog 入门

主要特性 ​

  • 支持多平台开发。多平台支持使开发者能够面向 JVM、JavaScript、WebAssembly、Android 和 iOS 构建基于 Agent 的应用程序。
  • 可靠性与容错能力。凭借内置的重试机制,Koog 让开发者能够处理超时或工具错误等故障。Agent 持久化使得恢复完整的 Agent 状态机成为可能,而不仅仅是恢复聊天消息。
  • 针对长上下文的内置历史压缩技术。Koog 附带高级策略,无需额外设置即可压缩并管理长期运行的对话。
  • 企业级集成。Koog 与 Spring Boot 和 Ktor 等主流 JVM 框架集成。
  • 通过 OpenTelemetry 导出程序实现可观测性。Koog 提供了与 W&B Weave 和 Langfuse 等主流可观测性提供商的开箱即用集成,用于监控和调试 AI 应用程序。
  • LLM 切换与无缝历史适配。Koog 允许在任何阶段切换到拥有新工具集的其他 LLM,而不会丢失现有的对话历史记录。它还支持在包括 OpenAI、Anthropic、Google 等在内的多个 LLM 提供商之间重新路由。你还可以通过 Koog 与 Ollama 的集成,配合本地模型在本地运行 Agent。
  • 与 JVM 及 Kotlin 应用程序集成。Koog 专为 JVM 和 Kotlin 开发者提供了符合习惯用法且类型安全的 DSL。
  • 模型上下文协议 (MCP) 集成。Koog 支持在 Agent 中使用 MCP 工具。
  • 知识检索与记忆。借助嵌入 (Embedding)、排序文档存储和共享 Agent 记忆,Koog 自身可以在跨会话中主动保留知识。
  • 流式传输能力。Koog 支持流式传输和并行工具调用,让开发者能够实时处理响应。

从何处入手 ​

Model Context Protocol (MCP) Kotlin SDK ​

MCP Kotlin SDK 是 Model Context Protocol(模型上下文协议)的 Kotlin Multiplatform 实现。 该 SDK 让开发者能够使用 Kotlin 构建 AI 驱动的应用程序,并跨 JVM、WebAssembly 和 iOS 与 LLM 交互界面进行集成。

借助 MCP Kotlin SDK,你可以:

  • 通过将上下文处理与 LLM 交互分离开来,以结构化且标准化的方式向 LLM 提供上下文。
  • 构建 MCP 客户端以使用现有服务器中的资源。
  • 创建 MCP 服务器,向 LLM 公开 Prompt、工具和资源。
  • 使用诸如 stdio、SSE 和 WebSocket 等标准通信传输协议。
  • 处理所有 MCP 协议消息和生命周期事件。

探索其他 AI 驱动的应用场景 ​

得益于无缝的 Java 互操作性与 Kotlin Multiplatform,你可以将 Kotlin 与成熟的 AI SDK 和框架相结合,构建后端以及桌面/移动端 UI,并采用诸如 RAG 和基于 Agent 的工作流等模式。

你可以探索并运行来自 Kotlin-AI-Examples 仓库的示例。 每个项目都是自包含的。你可以将各个项目用作构建基于 Kotlin 的 AI 应用程序的参考或模板。

连接主流模型提供商 ​

使用 Kotlin 连接诸如 OpenAI、Anthropic、Google 等主流模型提供商:

  • OpenAI — OpenAI API 的官方 Java SDK。它涵盖了响应与聊天、图像以及音频。
  • Anthropic (Claude) — Claude Messages API 的官方 Java SDK。它包含用于 Vertex AI 和 Bedrock 集成的模块。
  • Google AI (Gemini / Vertex AI) — 官方 Java SDK,可通过单个客户端在 Gemini API 与 Vertex AI 之间切换。
  • Azure OpenAI — Azure OpenAI Service 的官方 Java 客户端。它支持聊天补全与嵌入 (Embedding)。
  • AWS Bedrock — 用于调用基础模型的官方 SDK。它包含适用于 Bedrock 和 Bedrock Runtime 的 Kotlin SDK 与 Java SDK。

创建 RAG 流水线与基于 Agent 的应用 ​

  • Spring AI — 针对 Prompt、聊天、嵌入、工具与函数调用以及向量存储的多提供商抽象。
  • LangChain4j — 包含 Kotlin 扩展的 JVM 工具包,适用于 Prompt、工具、检索增强生成 (RAG) 流水线以及 Agent。

后续步骤 ​