结硬寨,打呆仗

JibarOS 简介:Android AICore 开源实现方案

JibarOS — 基于 Android 16 的AICore开源实现方案,将端侧 AI 推理内置为平台级共享服务。麻雀虽小五脏俱全,OEM厂商可以直接拿来做POC了。 1. 问题:端侧 AI 的「应用孤岛」困局 在当前 Android 生态中,每个想用 AI 的应用都在重复同一件事:自带模型 + 运行时。 这种做法带来以下问题: 存储浪费 — 多个应用捆绑功能相近的模型,用...

如何通过LangChain访问Dify平台绑定的大模型

本文内容涉及两种Agent开发模式的对比,仅代表个人观点。 不同的开发模式有不同的应用场景,并不存在绝对的优劣之分。 1. 背景 Dify和LangChain都可以用来开发Agent,但它们在设计理念和使用场景上有显著差异: Dify的特点是低代码、可视化,通过拖拽相关组件拼搭业务(很像Scratch少儿编程),适合非技术人员快速落地想法; LangChain是面向开发者的模块...

libuv spin空转导致的cpu消耗问题

最近被性能组同学盯上了,说我负责的一个基础模块在某硬件平台上,开机阶段有个线程cpu占用较高,需配合调查。 最终发现,系统中的libuv版本较老,特定场景下函数uv__async_spin会长时间空转,消耗较多cpu;新版本的libuv对此做了优化,同样场景下cpu占用时长降幅高达50%以上。 libuv v1.40.0版本引入该问题,v1.45.0修复该问题。 1. 背景 1.1 li...

© coderhuo. Some rights reserved.

本站总访问量次,本文总阅读量

Using the Chirpy theme for Jekyll.