TensorFold 开源 Zig 原生推理引擎,在 Apple Silicon 与 NVIDIA GPU 上直接服务模型
TensorFold 是一个用 Zig 编写的开源推理引擎,可直接读取 checkpoint 并在 Apple Silicon 的 Metal 或 NVIDIA 的 CUDA 上运行 kernel,服务模型无需安装 Python 或 MLX。
推荐理由:原文给出 Zig 原生推理引擎的安装命令、支持模型清单与已知限制,可据此判断本地部署的可行边界。
TensorFold 是一个用 Zig 编写的开源推理引擎,可直接读取 checkpoint 并在 Apple Silicon 的 Metal 或 NVIDIA 的 CUDA 上运行 kernel,服务模型无需安装 Python 或 MLX。
推荐理由:原文给出 Zig 原生推理引擎的安装命令、支持模型清单与已知限制,可据此判断本地部署的可行边界。
Vantron 推出 VT-SBC-SMARC-IMX952,这是一款 82 × 50 mm 的 SMARC 2.1 系统模块,采用 NXP i.MX 952 处理器,配备双核或四核 Cortex-A55、Mali-G310 GPU 和 2 TOPS 的 eIQ Neutron NPU,面向工业 HMI、边缘 AI 视觉、工厂自动化和座舱感知等场景。
InstaBox 开始免费赠送云电脑,免费版配置为 4 vCPU、8 GiB 内存、20 GiB 硬盘,在浏览器中左侧是 AI Agent、右侧是图形桌面,并预装 Chromium。
意法半导体推出 STM32H7P4 和 STM32H7P5 两款 520 MHz Arm Cortex-M7 MCU,面向数字电源、电机控制、工业传感和边缘 AI。