速報：Googleが「TurboQuant」という新しいメモリ圧縮アルゴリズムを発表しました。このアルゴリズムはAIシステムの推論時のキャッシュ使用量を大幅に削減しながら性能を落とさないことを目指しています。

このアナウンスは、テレビシリーズ「シリコンバレー」の架空のスタートアップ「Pied Piper」との比較をすぐに呼び起こしましたが、現在のところラボベースの開発にとどまっています。
Google Researchは、TurboQuantがAI推論に使用されるワーキングメモリを少なくとも6倍削減できると述べています。