MacBook Neoの8GBメモリでAIをなんとかするシリーズ。前回の記事では、独自開発エージェンティックAIのmazzaineoにWebターミナルとSwiftLM推論エンジンを追加して、8GBメモリの限界に挑んだ話を書きました。

AIコーディングツールClaude CodeもローカルLLMで実行！ 次はClaude CodeをローカルLLMで起動してみよう。 Claude Codeは、Anthropicが提供しているターミナル (コマンドライン)ベースのAIコーディングツールで、AIにコード生成などを指示できる。

例えば、外部のLLMを使った顧客対応システムでは、問い合わせが増えるほど推論コストが増加する。トークンの単価は小さく見えても、利用が拡大すれば月額数千ドルから数万ドルに達する場合もある。サービスの停止や遅延が起きれば、顧客対応や売り上げに直接影響する ...

ローカルLLMとは、クラウドではなく、PCやスマートフォン、エッジデバイスといった、ユーザーの個人用デバイス上で直接LLMを実行できる仕組みを指す。 ChatGPTやGeminiなどのオープンな生成AIサービスには、多くの場合、将来のAIモデルのトレーニングに ...

この連載の前回はLLMとWebブラウザの組合せで、AIによるタスク処理をご紹介した。今回はLLMとVisual Studio Code(VS Code)を使ったAIによるタスク処理。多くの機能を持つのだが、プログラミングに興味のない人でも分かりやすいよう、簡単な例でいくつかご紹介したい ...

昨年、父親が永眠している。大学教授という堅い仕事をしていながら、酒を毎晩飲む人で時には痛手を被ることもしばしばあった。あちらの世界でも豪快にお酒を飲みながら過ごしているのであろう。家族には一切、マメな側面を見せずに、ただただ豪快であったが、遺品整理を ...

企業における生成AI活用が広がる中、クラウドではなく手元のPC上でAIモデルを動かす「ローカルLLM」への注目が高まっている。マイクロソフトが「Copilot+ PC」によって、AIを稼働させるためのPCスペックの基準を示したことも、この動きに拍車をかけている。 本稿では、ローカルLLMが注目される背景とそのメリット、実用的に運用するためのPC選定のポイントを解説する。 情報漏えいの危険性があるク ...

会員制マーケットリサーチサービスを提供している、株式会社SVPジャパン（本社：東京都中央区、代表取締役社長：橋本 ...

AIで企業の生産性を革新するオールインワンの生成AI・LLMソリューションを提供するAllganize Japan株式会社（代表取締役CEO ...

米Metaは6月27日（現地時間）、コード最適化のためのLLMモデル「Meta Large Language Model Compiler」（以下「LLM Compiler」）を発表した。特別な商用ライセンスの下でリリースしており、Hugging Faceでダウンロードできる。70億パラメータと130億パラメータの2サイズ構成だ。

日本テレビは3月30日、東京・汐留の同局で定例社長会見を行い、お笑いコンビ「ダウンタウン」の松本人志がレギュラーを務める「ダウンタウンのガキの使いやあらへんで！」への復帰の見通しについて説明しました。