ざっくりCUDA ONを1とした場合、CUDA OFFだと約7倍の時間がかかり、Core i7-7700のCPUのみの演算だと約半分の時間で終了すると言う結果となった。
情報流出を防ぐため、AIをローカル環境で整備する企業・組織が増えている。だがそこでは、大きな課題が立ちはだかる。それは脆弱性に対処するためのOSアップデートが稼働中のサービスを停止させてしまうという「セキュリティーと可用性のジレンマ」だ。とりわけAI ...
PyTorchで利用したいCUDAバージョン≦CUDA ToolKitのバージョン≦GPUドライバーの対応CUDAバージョン この条件を満たしていないとPyTorchでCUDAが利用できません。 どうしてもtorch.cuda.is_available()の結果がTrueにならない人を対象に、以下確認すべき項目を詳しく説明し ...
GPU(グラフィックス処理装置)による並列計算が大きく注目されている昨今、NVIDIA(エヌビディア)が開発するCUDAという技術は、人工知能(AI)や科学技術計算など幅広い分野で活躍中です。しかし、「CUDAとは具体的に何なの?」「どうやって使うの?
AIモデルの開発や利用を“AIによって”効率化する──Sakana AIは2月20日、新たな技術「AI CUDA Engineer」を発表した。AIモデルの開発や利用時にかかる計算処理を10~100倍高速化できるエージェントシステム。同社は「AI技術は必ず100万倍は効率化される」と展望 ...
空前のAIブームの中にあって、その開発の現場で「一人勝ち」とも言うべき圧倒的なシェアを誇っているNvidia(エヌビディア)のGPU向け開発環境「CUDA」。IntelやAppleといったライバルたちを尻目に、いかにしてCUDAはトップに登り詰めたのでしょうか。今回の ...
NVIDIAはAI関連ソリューションの年次イベントGTC 2026を、3月15日~3月19日(現地時間)で開催している。会期2日目となる3月16日には、CEOのジェンスン・フアン氏による質疑応答が行なわれ、新製品や戦略などに関しての説明が行なわれた。
NVIDIAは2月2日(現地時間)、これまで展開してきた「GeForce RTX 3050 8GB」の新しいバリアントとして「GeForce RTX 3050 6GB」を投入した。NVIDIAのメーカー想定売価は169ドル(海外ソース)とされており、より廉価に設定されている。 RTX 3050にはすでに8GBモデルが展開 ...
イギリスのスタートアップ「Spectral Compute」社がCUDAのプログラムを全く変更することなくAMD製GPUで実行できるようにコンパイルするツールキット「SCALE」を開発したと発表しました。 Spectral ComputeのCEOであるマイケル・ソンダーガード氏は「一度コードを記述 ...
エヌビディアは、世界の産業用ソフトウェア大手企業キャデンス、ダッソーシステムズ、ピーティーシー、シーメンス、シノプシスと協力し、CUDA-X、オムニバース、GPUアクセラレーション対応の産業用ソフトウェアとツールを提供すると発表した。
Sakana AIは2月21日、20日に発表した技術「AI CUDA Engineer」に不備があったと謝罪した。公開したコードの一部に不具合があったという。近日中にAI CUDA Engineerに関する論文の改訂版を公開する予定。SNS上では、AI CUDA Engineerの不備を指摘する声が複数出ていた。
CPUで動くプログラムはそれぞれのGPU(デバイス)を独立に制御する。CUDAのStreamはデバイスごとの仕事のキューになっている。プログラムの実行はStreamの実行開始と同期で行われている。 そして、Stream間の同期を行うにはeventを使う。eventはカーネルの完了を ...