GPU 相关文章

深入 Android 端侧 AI 推理的 Transformer 算子优化全链路:从 Self-Attention 计算瓶颈到移动 GPU 计算着色器的 FlashAttention 加速

本文记录在 Android 端侧把 FlashAttention 搬进 OpenGL ES Compute Shader 的全过程,通过分块计算与 Online Softmax 将 Attention 访存从 O(n²) 降到 O(n),实测 Mali-G710 延迟从 120ms 降至 18ms。

深入 Android Bitmap 内存模型:从 Java 堆分配到 Hardware Bitmap 的演进与优化

梳理 Android Bitmap 像素数据从 Native 堆到 Java 堆再回到 Native 堆的三次内存分配策略变迁,以及 Hardware Bitmap 将像素数据存入 GPU 显存的优化原理与使用限制。