Hacker News · 首页· nkko·· 9 天前AI 评分56
ESP32S3 集群运行 1.58-bit BitNet 语言模型
ESP32S3 cluster running 1.58-bit (BitNet) Language model
AI 导读
开源项目 ESP32s3-LLM-Cluster 在 7 个 ESP32S3 开发板上分布式运行切片的 0.5B LLM,其中 1 个 master 节点负责 tokenizer 和 embedding,6 个计算节点通过高速 SPI Daisy-Chain 通信执行 attention 层和 MLP,模型采用 1.58-bit BitNet 量化技术。
来源:Hacker News · 首页 · github.com