要約:
ワシントン州ベルビューの静かな地区にあるゲイリー フレックのモダンな家の地下室は、完全に機能する男性のレジャー スペースのように装飾されています。大画面モニターとデジタル プロジェクターの間に快適なソファが置かれ、スピニング マシンやローイング マシンもあります。しかし、この部屋の本当のハイライトは、ラックに 7 枚の Nvidia 高性能グラフィックス カードがぶら下がっている、巨大な組み立てモデルのように見えるカスタムメイドのホストです。
テクノロジー愛好家は自宅で高性能 AI ホストを組み立てます。次に、熱放散という厄介な問題が発生します。
Flake は以前 Microsoft で働いており、いくつかの新興企業の創設者でもあります。彼は、現在は追求していないスタートアップの一環として、脳内の電気信号を記録するテラバイト規模の脳波データに基づいてカスタム AI モデルをトレーニングするマシンを構築しました。
AI モデルをトレーニングするには、クラウド サービス プロバイダーからデータ センターの産業グレードの GPU コンピューティング パワーを借りることもできたはずです。しかし、割引されたコンポーネントを使用して自分で設置する方がはるかに費用対効果が高いと彼は言いました。機器全体の総コストは 6,000 ドル未満で、Amazon Cloud や Microsoft Cloud に月額料金を支払うよりもはるかに安価です。
地下室の熱を放散し、AI ホストによって生成される膨大な熱を相殺するための電気改造と新しい HVAC システムのコスト (合計 1 ～ 20,000 米ドル) を含めたとしても、自分で設置するほうが費用対効果が高くなります。 「コンピューティングパワーを自分の手で手に入れたい」とフレーク氏は述べ、今後数カ月間にこのマシンを再利用して新しいプロジェクトを開始する予定だ。 「他人のコンピューティングパワーを借りたくない。」
屋根裏部屋、地下室、ホーム オフィスでローカルに AI ワークロードを実行することは、この AI ブームの中で予期せぬ現象となっています。主要な AI 企業は、巨大なコンピューティング能力の需要を満たすために、数万個の GPU を搭載した大規模なリモート データ センターで大規模なモデルをトレーニングおよび実行しています。
Gary Fleck さんの自宅の GPU 機器
同時に、
ローカル AI の波が押し寄せています
が出現している。多くの小規模開発者やハードウェア愛好家は、コスト、プライバシー、使いやすさを理由に、家庭用デバイスで AI を実行することを選択しています。自由の概念を信じる一部の開発者は、ローカル AI が将来の政府の規制を回避し、AI テクノロジーの使用許可を遮断できると信じています。 OpenClaw などのローカル エージェント プラットフォームは、ネイティブ アプリケーションやローカル ファイルを直接呼び出して複雑なタスクを完了できます。これもこの傾向に貢献しています。家庭用 AI デバイスは、単に優れた家庭用機能である場合もあります。先月、Shopify CEOのToby Lütke氏は、自宅にある3セットの縦型サーバーキャビネットを披露し、ソーシャルプラットフォームで話題になりました。キャビネットにはピンクの LED ライト ストリップが巻かれていました。この機器には、メーカーが「究極のデスクトップ スーパーコンピューター」と呼ぶ、Nvidia のハイエンド グラフィックス カードを搭載した Dell ホストが含まれています。 Luedtke は、機器の放熱の問題も巧みに解決しました。
家庭用 AI コンソールの台頭は、ハードウェア メーカーにとって予期せぬ恩恵です。 Mac mini と Mac Studio はスマートフォン開発者の間で非常に人気があり、売上は増加しています。デル氏はまた、家庭用AI愛好家向けの市場が爆発的な成長を遂げていると述べた。
デルの上級エンジニア、マーク ハモンズ氏は次のように述べています。「これは時代の流れです。今年 OpenClaw が登場して以来、関連ハードウェアの需要が急増しています。」
高性能ホストを自宅に置くことは新しいことではなく、「ホームラボ」愛好家コミュニティはすでに Discord や Reddit などのプラットフォームで栄えています。 21 世紀初頭、オーディオ愛好家は自宅にサーバーを構築し、大容量のハード ドライブを搭載し、ダウンロードした MP3 音楽やビデオを保存しました。その後、暗号通貨マイニング ブームにより、家庭用の高性能 GPU の需要が高まりました。
ヒッテン・シャーは当時暗号通貨プレーヤーでした。 2020年、彼はイーサリアムをマイニングするために自宅のサーバーラックに8つのGPUを設置した。現在、ソフトウェア スタートアップ Crazy Egg の CEO である Shah は AI 開発に目を向け、カリフォルニア州レッドウッド ショアーズの自宅のコンピューティング能力を大幅に拡張し、14 台の Mac mini と Mac Studio を含む合計 18 台のデバイスを導入しました。
シャー氏は、ローカルのコンピューティング能力により、開発したウェブサイト最適化ソフトウェアのパフォーマンスを制御できると述べました。大規模なクラウド モデルでは、ダウンタイムや遅延が頻繁に発生するのが通常です。 「大規模なモデルがクラウドで更新されると、システムは数日間不安定になり、障害が頻繁に発生します。」
しかし、その代償として、居住性は大幅に低下します。すべてのコンピューティング機器は自宅のオフィスに置かれており、マシンから放散される熱により室内温度が華氏 85 度 (摂氏約 29.4 度) まで上昇することがよくあります。彼はパンツを履いてしか部屋にいられないことがよくあります。 「エアコンを設置すべきだ」とシャーさんは言った。
多くの地元の AI 愛好家が業界のインターネット有名人になっています。オースティンを拠点とする YouTuber で、匿名を希望し、チャンネル名は Digital Spaceport のみを使用しています。彼は自宅のガレージに「ホーム データ センター」と呼ぶものを建てました。ハードウェアには、5 つの AMD グラフィックス カードに加えて、多数のネットワークおよびストレージ デバイスが含まれています。現在、彼はこのマシン上で国内の大型オープンソース モデルである Tongyi Qianwen Qwen-3.8-27B を実行し、自身の YouTube 動画を編集および分析しています。
別のポーランドの技術コンサルタント兼 YouTuber も匿名で、チャンネル ID 0xSero を使用しています。彼はハードウェアをどんどん購入するにつれて、AI ホストを家の中で移動させなければなりませんでした。もともと彼の自宅オフィスには 4 枚の NVIDIA 6000 グラフィックス カードが置かれていましたが、騒音が大きく、非常に高い熱が発生し、部屋の空気が乾燥してしまいました。彼はこれが昨年の病気の原因だと信じていた。それでセット全体が屋根裏部屋に移動されました。
0xSero は、クラウド AI モデルを初めて使用しました。転機は2024年末に訪れました。AIプログラミングツール「Cursor」の価格が値上がりしました。 「その瞬間、私はローカル AI を開発することを決意しました。」
彼は、AI システムの所有権と制御はユーザーの手にあるべきだという観点を主張しています。将来的には、政府による AI へのアクセス権の管理や制限が行われる可能性があります。 「私は AI が大好きなので、今後も AI を使用する権利を持ちたいと思っています。」
コメント