锐英源软件
第一信赖

精通

英语

开源

擅长

开发

培训

胸怀四海 

第一信赖

当前位置:锐英源 / 人工智能 | 苹果公司 / GaussianSplats高斯泼溅BUG修复和NeuralEngine改进-iOS27新版AI开发热点新闻
联系方式
public
扫一扫,关注实时技术
固话:0371-63888850
手机:138-0381-0136
Q Q:396806883
微信:ryysoft
服务方向
人工智能数据处理
人工智能培训
小语种语音识别
语音识别标注
语音识别系统
语音识别转文字
软件开发
视觉检测
建筑视觉检测
养殖视觉检测
运动控制卡上位机
机械加工软件
软件开发培训
Java 安卓移动开发
VC++
C#软件
汇编和破解
驱动开发

锐英源精品原创,禁止全文或局部转载,禁止任何形式的非法使用,侵权必究。


GaussianSplats高斯泼溅BUG修复和NeuralEngine改进-iOS27新版AI开发热点新闻


背景

本文是翻译文章,内容来自苹果公司英文网站,因为锐英源软件一直在从事AI开发,对数字孪生也有兴趣,看到GaussianSplats高斯泼溅BUG修复和NeuralEngine改进,非常关键,见猎心喜,就进行总结,自己学习时,也推荐给大家学习。同时内容也列入了“语言之美英语爱好社群”,进行了英语学习价值的提高。

本次翻译收获:都说苹果手机好,运行稳定,二手也不怎么掉价,普通人也说不上一二,看过本文就可以给其它人吹牛了。操作系统重要的是内存管理,NeuralEngine能管理优化AI方面的内存,相当于让AI能力更进化了一步。iOS27的NeuralEngine改进更升级了此项功能。为什么Mac Mini能当AI服务器,这离不开操作系统功能强大。

GaussianSplats高斯泼溅在国内的常用用法是三维无人机扫描,整理后用虚幻引擎做成三维数字孪生资产,部署在服务器上就可以做到场馆三维漫游,用处非常广。iOS27的GaussianSplats高斯泼溅改进,有可能目标是让数字孪生资产直接部署到苹果手机上,当然现在大型的还是不行,后面如果出了新的内存压缩格式,有可能实现。苹果的A20 Pro芯片很强大,加上软件优化,手机实现场馆三维漫游功能,从小型发展,支持中大场馆,这估计是苹果后期的计划。

GaussianSplats-NeuralEngine


GaussianSplats高斯泼溅BUG修复中文

Gaussian Splats(高斯泼溅)

已解决的问题

已修复:当由 GaussianSplatComponent 渲染的 3DGS 内容被移出屏幕,然后重新回到可见区域时,一些 splats 可能会缺失或被截断。移动相机或资产可以恢复渲染。(183538823)

 

1. 什么是 Gaussian Splats / 3DGS

3DGS 是 3D Gaussian Splatting 的缩写,中文常叫 3D 高斯泼溅 或 3D 高斯溅射

它是一种 3D 场景表示和渲染技术,不是用传统三角形网格来建模,而是用大量3D 高斯点来表示场景。每个高斯点通常包含:

  • 位置

  • 旋转和缩放,决定它形成怎样的椭球

  • 不透明度

  • 颜色,通常用球谐系数表示,以便随视角变化颜色

  • 深度排序信息

渲染时,这些 3D 高斯会投影到屏幕上,变成一个个 2D 椭圆形的“splat”,再按深度排序并进行 alpha 混合,最终合成逼真的画面。

它的特点是:

  • 适合从照片或视频重建真实场景

  • 新视角合成效果很逼真

  • 通常比传统 NeRF 更实时

  • 但数据量大,对排序、混合、内存和 GPU 压力较高

2. GaussianSplatComponent 是什么

GaussianSplatComponent 可以理解为苹果 RealityKit 中用于渲染 3D Gaussian Splatting 内容的组件。开发者可以把 3DGS 资产挂到某个实体上,让它在场景中显示。

这次修复针对的就是:
用这个组件渲染的 3DGS 内容,在移出屏幕后再回到可见区域时,渲染状态没有完全恢复。

3. 这个 Bug 的具体表现

描述里的场景是:

  1. 3DGS 内容本来正常显示。

  2. 它被移出屏幕,或者相机移开,导致它不在可见区域内。

  3. 之后它重新回到可见区域。

  4. 这时部分 splats 可能:

    • 完全丢失

    • 被截断

    • 只显示一部分

    • 边缘或某些高斯点没有正确绘制

有意思的是:
移动相机或移动资产后,渲染又能恢复。

这说明资产本身没有损坏,更像是可见性管理、排序缓存、绘制命令或 GPU 资源状态没有在“离屏再回来”时正确刷新。

4. 可能的技术原因

从现象看,这类问题通常和以下机制有关:

  • 视锥剔除:离屏时系统可能把对象剔除,不提交渲染。

  • 排序缓存:3DGS 非常依赖深度排序,离屏再回来时排序索引可能没更新。

  • 资源回收与重建:离屏时部分中间缓冲区可能被回收,回来时没有完整重建。

  • 绘制状态失效:某些 splat 的可见性标记或绘制范围没有正确恢复。

  • 相机/资产移动触发重算:移动会强制重新计算排序、剔除或上传数据,所以临时恢复。

因此,这个 bug 可以理解为:
3DGS 内容离屏再进入可见区域时,渲染管线没有正确恢复所有 splats 的状态。

5. 修复后的意义

修复后,使用 GaussianSplatComponent 的开发者可以更放心地:

  • 让 3DGS 对象进出视野

  • 移动相机环绕观察

  • 在 AR/VR 场景中动态移动高斯泼溅资产

  • 切换场景或改变可见性

而不容易出现 splats 丢失、截断或需要用户移动相机才恢复的问题。

编号 183538823 是苹果内部问题跟踪 ID,通常可用于在反馈或 release notes 中定位该修复。

 

  1. 1. 3DGS 的基本流程

    3D Gaussian Splatting 通常不是手工建模,而是从多视角照片或视频重建:

    1. 用 SfM 估计相机位姿和稀疏点云;

    2. 用这些点初始化大量 3D 高斯;

    3. 通过训练优化每个高斯的位置、旋转、缩放、不透明度和颜色;

    4. 导出为 .ply、.splat 等格式;

    5. 运行时在 GPU 上投影、排序、混合,实时渲染出新视角。

    所以它更像“可实时渲染的辐射场表示”,而不是传统三角网格。

    2. 为什么容易出现渲染 Bug

    3DGS 渲染非常依赖:

    • 深度排序:高斯点必须按视角正确排序,否则混合会错;

    • 可见性剔除:离屏对象通常会被剔除;

    • 缓存与缓冲区:排序结果、投影结果、间接绘制命令等;

    • GPU 状态恢复:对象重新进入视野时,需要重新提交和重建部分状态。

    你给的这条修复:
    “移出屏幕再回来后部分 splats 缺失或截断,移动相机或资产可恢复”
    很可能就是离屏剔除后,重新进入可见区域时,排序缓存、绘制范围或 GPU 资源没有完整恢复。移动相机会强制重算,所以临时正常。

    3. 与 NeRF 的区别

    • NeRF:隐式表示,通常用 MLP 查询密度和颜色,渲染较慢;

    • 3DGS:显式高斯点表示,训练和渲染通常更快,更适合实时;

    • 3DGS 更容易编辑、裁剪、组合,但数据量大,排序和混合压力高;

    • NeRF 更紧凑,但实时性通常不如 3DGS。

    4. 与 Neural Engine 的关系

    这条 Gaussian Splats 修复主要属于图形渲染,运行时通常吃 GPU,不是 Neural Engine。
    Neural Engine 更偏向神经网络推理,比如 Apple Intelligence、Core ML 模型。3DGS 的生成或某些神经处理可能用到 GPU/ANE,但实时 splat 渲染核心还是 GPU 的投影、排序和 alpha 混合。

    5. 对开发者的意义

    修复后,使用 GaussianSplatComponent 时,下面这些场景会更稳定:

    • AR/VR 中物体进出视野;

    • 相机环绕观察;

    • 动态移动 3DGS 资产;

    • 场景切换、可见性切换;

    • 大场景中部分高斯泼溅对象被裁剪后再出现。

    开发者仍应注意:控制 splat 数量、做 LOD、裁剪不可见区域、优化排序和内存,否则性能压力仍然很大。

 

 

Neural Engine改进中文

iOS 27 为支持 Apple Intelligence 的设备带来了神经引擎(Neural Engine)改进。系统现在会限制对神经引擎的后台访问,类似于对 GPU 使用的限制。在神经引擎上,大型模型(超过 1 GB)的加载性能得到了改进。神经引擎内存使用现在会计入你的 App 进程,而不是系统进程,并且会出现在 Allocations 工具中。(174796039)

当你的 App 处于后台时,访问神经引擎需要新的授权(entitlement):“com.apple.developer.background-tasks.continued-processing.inference”。(179282606)

 

Neural Engine 简介

Neural Engine,通常简称 ANE,是苹果在自家芯片中集成的专用神经网络处理单元,也就是一种 NPU。它从 A11 Bionic 开始出现,后来扩展到 A 系列和 M 系列芯片中。

它的主要特点是:

  • 专为机器学习推理加速:适合运行已经训练好的神经网络模型,比如图像识别、语音处理、自然语言模型、生成式 AI 等。

  • 高能效:相比完全用 CPU 或 GPU 跑神经网络,ANE 通常功耗更低、延迟更小,适合手机、平板、笔记本等设备。

  • 与 CPU/GPU 共享统一内存:在 Apple Silicon 的统一内存架构下,ANE 可以和 CPU、GPU 更高效地交换数据。

  • 开发者通常通过高层框架使用:例如 Core ML、Create ML、部分 Metal Performance Shaders 等。开发者一般不会直接写 ANE 底层代码,而是由系统框架决定是否把模型调度到 ANE。

  • 广泛用于系统功能:Face ID、照片分类、相机实时处理、语音识别、文本预测、Apple Intelligence 等功能都可能用到 ANE。

这次说明里的几个变化,对开发者比较重要:

  1. 后台访问受限:ANE 和 GPU 一样属于共享、功耗敏感资源,后台随意使用可能影响续航、发热和其他 App 体验,所以系统开始限制。

  2. 需要新授权:如果 App 要在后台继续做推理,需要申请 com.apple.developer.background-tasks.continued-processing.inference。

  3. 大模型加载优化:超过 1 GB 的大模型在 ANE 上加载更快,这对本地大语言模型、扩散模型等场景有帮助。

  4. 内存归因更透明:ANE 内存现在算到 App 进程里,并出现在 Allocations 工具中,方便开发者分析和优化内存占用。

 

 

英文

Gaussian Splats Resolved Issues Fixed: When 3DGS content rendered by a GaussianSplatComponent is moved offscreen and then returns to the visible area, some splats might be missing or truncated. Camera or asset movement can restore rendering. (183538823)。

 

iOS 27 includes Neural Engine improvements for Apple Intelligence capable devices. The system now restricts background access to the Neural Engine, similar to GPU usage restrictions. Large model loading (over 1 GB) performance is improved on the Neural Engine. Neural Engine memory usage is now attributed to your app process instead of the system, and appears in the Allocations instrument. (174796039) Access to the Neural engine when your app is in the background requires the new entitlement: “com.apple.developer.background-tasks.continued-processing.inference”. (179282606).

友情链接
版权所有 Copyright(c)2004-2024 锐英源软件
统一社会信用代码:91410105098562502G 豫ICP备08007559号 最佳分辨率 1440*900
地址:郑州市金水区文化路97号郑州大学北校区院内原校办工厂楼101室