据悉，苹果神经引擎（Apple Neural Engine）近日被成功破解，工程师Manjeet Singh利用Claude完成了逆向工程，并成功在M4芯片上训练了一个单层Transformer模型。这意味着用户可以在Mac设备上直接进行AI训练，无需依赖GPU或TPU。
测试显示，一个单层Transformer模型在M4芯片上仅需9.3毫秒完成一步运算，峰值效率高达6.6 TFLOPS/W。最新进展已实现完整Stories110M模型的训练，功耗低于1瓦特。这将大幅降低AI训练成本，使Mac设备成为个人AI训练的新选择。Pg电子平台网址
苹果神经引擎是专为加速机器学习设计的处理器，M4芯片中的ANE拥有16核心，峰值算力下功耗仅2.8W。此次破解突破了CoreML框架限制，直接操控ANE硬件，为设备端AI训练开辟了新途径。