AI推理基础设施
-
AI推理平台走向组件化:Rust与WASI Preview 2的边界选择
AI 推理链路中真正消耗 GPU 的往往只是模型执行,而认证、限流、Tokenizer、路由、过滤等主路径组件正成为新的优化重点。Rust 与 WASI Preview 2 的组合,为延迟、隔离和内存安全提供了一条可落地的组件化路线。
-
Rebellions完成4亿美元Pre-IPO融资,估值23.4亿美元,押注AI推理基础设施新赛道
在AI技术从实验室走向规模化落地的关键节点,专注于AI推理基础设施的科技公司Rebellions近日完成了一笔重磅融资。这家韩国企业宣布在由未来资产金融集团和韩国国家增长基金领投的…