「GPUの上でAI(大規模言語モデル)を動かす」 これは、生成AIに触れているすべての人にとって当たり前の常識です。NVIDIAのGPUやMacのチップの上で、何十億ものパラメータ(重み)を持つAIモデルが計算され、言葉を紡ぎ出します。 ところが2026年11月1日、その常識を根底からひっくり返す、ちょっと頭がバグるほど変態的でロマンあふれるオープンソースプロジェクトがGitHubで公開されました ...
米Microsoftは10月28日(米国時間)、「Visual Studio Code」v1.144をリリースした。引き続きAIエージェント関連の機能が強化されている。 「Visual Studio ...
Linux / WSL2のx86_64、Python 3.12、GPUを認識するNVIDIAドライバが必要。 WindowsネイティブではなくWSL2またはLinuxで実行する。 RTX 3090実機は未検証。以下は24GBで最初の動作を確認するための設定例。 現在の固定環境はvLLM 0.19.1 / PyTorch 2.10.0+cu129。 モデル・仮想環境は ...
「PyTorch 2.15」は、分散学習基盤や低精度演算、各社のGPUへの対応などが強化されたアップデートリリース。PyTorch 2.14でプレビュー提供されていた新しいNCCLバックエンドが標準となったほか、NVIDIA ...