米Google（グーグル）のデータ圧縮技術「TurboQuant」が注目を集めている。生成AI（人工知能）に広く使われるメモリー「KVキャッシュ」を効率的に使えるようにするものだ。メモリーの需要が縮小するとの見方が市場に広がったことを背景に、米Mic ...

CPUのスペックを語る時、クロック周波数やコア／スレッド数のほかに、「CPUキャッシュメモリ」に言及されることがあります。このCPUキャッシュメモリとは何なのかについて、開発者のガブリエル・G・クンハ氏が解説しています。 キャッシュメモリは、CPU ...

Google Researchは大規模言語モデルとベクトル検索エンジンのための新しい圧縮技術群として、「TurboQuant」「PolarQuant」「Quantized Johnson-Lindenstrauss(QJL)」を2026年3月24日に発表しました。AIで大きな負担になっているメモリ使用量を減らしつつ、処理速度と検索性能も高めることが目的で、Googleはこれらの技術が特にLLMのK ...

シェアードメモリの場合は、デバイスメモリからデータをコピーしてくると、それは単なるデータ(値)であり、元のデバイスメモリのアドレスとは関係が切れてしまう。したがって、シェアードメモリのデータは、シェアードメモリに付けられたアドレスを ...

前回はP-CoreとE-Coreの話に終始してしまったので、今回はもう少し広範な話をしたい。 謎のMemory Side Cache Photo01は基調講演のスライドから切り出して、ついでに複数のスライドの情報を重ね合わせたものである。上側がCompute Tileであるが、向かって右端にP-Core× ...

PCが遅くなってきたときにメモリを増やすと安心するのよね。コンピュータのメモリが足りていません。生成AIの台頭が原因です。今すぐに生成AIバブルがはじけて、データセンター建設計画がすべておじゃんにならない限り、メモリ不足は解消しません。需要を満たせる ...

コンピューティングの“黒子”として欠かせないのが「メインメモリ」と「キャッシュメモリ」だ。この2つは何がどう違うのか。 メインメモリは、アプリケーションからデータへの高速アクセスを実現する。メインメモリの容量が不十分だと、データ処理 ...

「キャッシュメモリ」は「メインメモリ」に対して小規模ながら、快適なアプリケーションの利用に大きく貢献している。キャッシュメモリの仕組みや役割に光を当てよう。 キャッシュメモリとは、頻繁にアクセスするデータを一時的に保持するメモリを指す ...