NemoClaw × GCP完全ガイド｜Google Cloud GPUインスタンスでの導入方法

Google CloudでNemoClawを動かす全体像

Google Cloud Platform（GCP）はNVIDIA GPUを幅広くサポートするクラウドプラットフォームです。Compute EngineのGPUインスタンスにより、NemoClawをホストする環境を柔軟に構築できます。特にA100・L4・T4の各GPUが利用可能で、PoC環境から大規模な本番環境まで対応できます。

本ガイドでは、GCPアカウントを保有している状態を前提に、Compute Engine GPUインスタンスの選定・Deep Learning VM Image選択・IAMロール設計・Artifact Registry・Filestore・Cloud Monitoring連携まで、本番運用を想定した構築手順を網羅します。

NemoClawの動作要件

GCPのCompute EngineでNemoClawを動作させるための要件です。

GCP構成の全体図

本番運用を想定したGCP構成の概要です。

┌─────────────────────────────────────────────────────────────────┐
│ Google Cloud VPC (10.0.0.0/16)                                   │
│                                                                   │
│  ┌───────────────────┐  ┌──────────────────────────────────────┐ │
│  │ Public Subnet     │  │ Private Subnet                        │ │
│  │                   │  │                                       │ │
│  │  ┌─────────────┐  │  │  ┌──────────────────────────────┐    │ │
│  │  │ Cloud Load  │──┼──┼─▶│ Managed Instance Group (MIG) │    │ │
│  │  │ Balancing   │  │  │  │  Compute Engine GPU VM        │    │ │
│  │  └─────────────┘  │  │  │  (NemoClaw + NIM Runtime)    │    │ │
│  │                   │  │  │  ┌──────────────────────────┐ │    │ │
│  │  ┌─────────────┐  │  │  │  │ OpenShell Sandbox         │ │    │ │
│  │  │ Cloud NAT   │  │  │  │  └──────────────────────────┘ │    │ │
│  │  └──────┬──────┘  │  │  └──────────────────────────────┘    │ │
│  └─────────┼─────────┘  │                                       │ │
│            │             │  ┌──────────────────────────────┐    │ │
│            └─────────────┼─▶│ Filestore (モデルキャッシュ)  │    │ │
│                          │  └──────────────────────────────┘    │ │
│                          └──────────────────────────────────────┘ │
│                                                                   │
│  ┌─────────────────────────────────────────────────────────────┐  │
│  │ Cloud Monitoring + Cloud Logging + Artifact Registry         │  │
│  └─────────────────────────────────────────────────────────────┘  │
└─────────────────────────────────────────────────────────────────┘

Compute Engine GPUインスタンスの選定

GCPではCompute EngineのVMにGPUをアタッチする形でGPU環境を構築します。NemoClawのワークロードに適したGPU種別と推奨マシンタイプを解説します。

GPUクォータの申請手順

GCPではGPU使用にクォータ申請が必要です。デフォルトでは多くのリージョンでGPUクォータが0に設定されています。

1. GCPコンソール → IAMと管理 → クォータ を開く
2. フィルタで「NVIDIA T4 GPUs」または「NVIDIA A100 GPUs」を検索
3. 対象のリージョンのクォータを選択し、クォータを編集をクリック
4. 必要なGPU数を入力し、ユースケースの説明（英語）を添えてリクエストを送信
5. メールで承認通知を受け取る（通常1〜3営業日）

# gcloudコマンドでクォータ状況を確認
gcloud compute project-info describe \
  --project=[PROJECT_ID] \
  --format="json(quotas)" | \
  python3 -c "import json,sys; q=json.load(sys.stdin)[\"quotas\"]; [print(x[\"metric\"],x[\"limit\"],x[\"usage\"]) for x in q if \"GPU\" in x[\"metric\"]]"

Compute Engine VMの作成と設定

NemoClaw動作に適したCompute Engine VMを作成します。GCPのDeep Learning VM Imageを使用することでCUDA・ドライバ環境の構築工数を大幅に削減できます。

Deep Learning VM Imageの選定

GCPはNVIDIAドライバとCUDAがプリインストールされたDeep Learning VM Imageを公式に提供しています。

# Deep Learning VM ImageのイメージリストをgcloudCLIで確認
gcloud compute images list \
  --project=deeplearning-platform-release \
  --filter="family:pytorch-latest-gpu" \
  --format="table(name,family,status)"

# gcloudCLIでGPU付きVMを作成（L4×1、東京ゾーン）
gcloud compute instances create nemoclaw-gpu-instance \
  --project=[PROJECT_ID] \
  --zone=asia-northeast1-b \
  --machine-type=g2-standard-8 \
  --accelerator=type=nvidia-l4,count=1 \
  --maintenance-policy=TERMINATE \
  --restart-on-failure \
  --image-family=pytorch-latest-gpu \
  --image-project=deeplearning-platform-release \
  --boot-disk-size=200GB \
  --boot-disk-type=pd-ssd \
  --scopes=cloud-platform \
  --no-address

--no-addressオプションでパブリックIPを割り当てず、Cloud NATを経由したセキュアな構成にします。

Firewall Rulesの設定

GCPのVPCファイアウォールルールでNemoClawの通信を制御します。

Filestoreによるモデルキャッシュの共有設定

Managed Instance Group（MIG）で複数VMが共有できるNFSストレージとして、Google Cloud Filestoreを使用します。NIMモデルウェイトのキャッシュを共有し、スケールアウト時のモデル再ダウンロードを防ぎます。

# Filestoreインスタンスの作成（ベーシックHDDティア、1TB）
gcloud filestore instances create nemoclaw-models \
  --project=[PROJECT_ID] \
  --zone=asia-northeast1-b \
  --tier=BASIC_HDD \
  --file-share=name=models,capacity=1TB \
  --network=name=default

# Filestoreのマウント（VM上での操作）
sudo apt-get install -y nfs-common

sudo mkdir -p /mnt/filestore/nim-models

# FilestoreのIPアドレスはコンソールまたはgcloudコマンドで確認
FILESTORE_IP=$(gcloud filestore instances describe nemoclaw-models \
  --zone=asia-northeast1-b \
  --format="value(networks[0].ipAddresses[0])")

sudo mount -t nfs -o vers=3 ${FILESTORE_IP}:/models /mnt/filestore/nim-models

# /etc/fstabに登録
echo "${FILESTORE_IP}:/models /mnt/filestore/nim-models nfs defaults,_netdev 0 0" | sudo tee -a /etc/fstab

本番環境ではFilestoreのEnterpriseティアを使用することでゾーン障害に対する耐障害性と99.99%のSLAが確保できます。ただしBasicティアと比較してコストが大幅に増加するため、要件に応じて選定してください。

Artifact Registryの設定

Artifact Registryを使用することで、NIMコンテナイメージをGCP内にキャッシュし、NGCからのpull回数を削減できます。特にMIGでの多数インスタンス起動時にイメージ取得のボトルネックを解消できます。

Artifact Registryリポジトリの作成

# Artifact Registryリポジトリの作成（東京リージョン・Docker形式）
gcloud artifacts repositories create nemoclaw-images \
  --repository-format=docker \
  --location=asia-northeast1 \
  --description="NemoClaw NIM container images cache"

# Docker認証の設定
gcloud auth configure-docker asia-northeast1-docker.pkg.dev

# NGCからNIMイメージをpullしてArtifact Registryに転送
# まずNGCにdockerログイン
echo $NGC_API_KEY | docker login nvcr.io -u "\$oauthtoken" --password-stdin

# NIMイメージをpull
docker pull nvcr.io/nim/nvidia/nemotron-3-nano-30b:latest

# Artifact Registryのパスにタグ付け
docker tag nvcr.io/nim/nvidia/nemotron-3-nano-30b:latest \
  asia-northeast1-docker.pkg.dev/[PROJECT_ID]/nemoclaw-images/nemotron-3-nano-30b:latest

# Artifact RegistryにプッシュShare
docker push asia-northeast1-docker.pkg.dev/[PROJECT_ID]/nemoclaw-images/nemotron-3-nano-30b:latest

IAMロール設計

GCPのサービスアカウントとIAMロールをNemoClawの動作に必要な最小権限で設計します。

# サービスアカウントの作成
gcloud iam service-accounts create nemoclaw-vm-sa \
  --display-name="NemoClaw GPU VM Service Account"

# IAMロールの付与
for ROLE in roles/artifactregistry.reader roles/monitoring.metricWriter roles/logging.logWriter; do
  gcloud projects add-iam-policy-binding [PROJECT_ID] \
    --member="serviceAccount:nemoclaw-vm-sa@[PROJECT_ID].iam.gserviceaccount.com" \
    --role=$ROLE
done

Managed Instance Groupとオートスケーリング

本番環境では単一VMではなくManaged Instance Group（MIG）を使用することで、自動スケーリングと高可用性を確保できます。

インスタンステンプレートの作成

# インスタンステンプレートの作成
gcloud compute instance-templates create nemoclaw-gpu-template \
  --project=[PROJECT_ID] \
  --machine-type=g2-standard-8 \
  --accelerator=type=nvidia-l4,count=1 \
  --maintenance-policy=TERMINATE \
  --image-family=pytorch-latest-gpu \
  --image-project=deeplearning-platform-release \
  --boot-disk-size=200GB \
  --boot-disk-type=pd-ssd \
  --service-account=nemoclaw-vm-sa@[PROJECT_ID].iam.gserviceaccount.com \
  --scopes=cloud-platform \
  --no-address \
  --metadata-from-file=startup-script=startup.sh

# MIGの作成（ゾーナル）
gcloud compute instance-groups managed create nemoclaw-mig \
  --project=[PROJECT_ID] \
  --zone=asia-northeast1-b \
  --template=nemoclaw-gpu-template \
  --size=1

オートスケーリングポリシーの設定

GPUカスタムメトリクスをベースにしたオートスケーリングを設定します。

# オートスケーリングポリシーの設定
gcloud compute instance-groups managed set-autoscaling nemoclaw-mig \
  --project=[PROJECT_ID] \
  --zone=asia-northeast1-b \
  --min-num-replicas=1 \
  --max-num-replicas=4 \
  --cool-down-period=600 \
  --custom-metric-utilization metric=custom.googleapis.com/gpu_utilization,utilization-target=0.70,utilization-target-type=GAUGE

Cloud Monitoringの設定

GCPのCloud MonitoringでNemoClawのGPUインスタンスを監視します。カスタムメトリクスとアラートポリシーを設定することで、本番環境の異常を早期検知できます。

Ops Agentのインストールと設定

GCPのCloud Monitoring Agentの後継であるOps Agentをインストールし、システムメトリクスとアプリケーションログを収集します。

# Ops Agentのインストール（VM上での操作）
curl -sSO https://dl.google.com/cloudagents/add-google-cloud-ops-agent-repo.sh
sudo bash add-google-cloud-ops-agent-repo.sh --also-install

# Ops Agentの設定（/etc/google-cloud-ops-agent/config.yaml）
cat > /etc/google-cloud-ops-agent/config.yaml << EOF
logging:
  receivers:
    nemoclaw_app:
      type: files
      include_paths:
        - /var/log/nemoclaw/app.log
    nemoclaw_nim:
      type: files
      include_paths:
        - /var/log/nemoclaw/nim.log
  service:
    pipelines:
      nemoclaw_pipeline:
        receivers: [nemoclaw_app, nemoclaw_nim]

metrics:
  receivers:
    hostmetrics:
      type: hostmetrics
      collection_interval: 60s
  service:
    pipelines:
      default_pipeline:
        receivers: [hostmetrics]
EOF

sudo systemctl restart google-cloud-ops-agent

アラートポリシーの設定

Cloud Monitoringでの主要なアラートポリシー設定です。

VPC Peeringとネットワーク設計

NemoClawをマルチプロジェクト環境やオンプレミスと組み合わせる場合のネットワーク設計を解説します。

Private Service Connectの活用

GCPのPrivate Service ConnectはArtifact RegistryやSecret ManagerなどのGCPマネージドサービスにVPCの内部IPで接続するための仕組みです。インターネット経由の通信を排除できます。

# Artifact Registry用Private Service Connect（PSC）エンドポイントの作成
gcloud compute forwarding-rules create psc-artifact-registry \
  --project=[PROJECT_ID] \
  --region=asia-northeast1 \
  --network=default \
  --subnet=default \
  --address=10.0.0.100 \
  --target-service=projects/[PROJECT_ID]/regions/asia-northeast1/serviceAttachments/artifact-registry

Private Service Connectを使用することで、NATゲートウェイを経由せずにArtifact RegistryへのイメージpullができるようになりNATコストを削減できます。

Cloud NATの設定

Private SubnetのVMからNGCやパッケージリポジトリへのアウトバウンド通信にCloud NATを使用します。

# Cloud Routerの作成
gcloud compute routers create nemoclaw-router \
  --project=[PROJECT_ID] \
  --region=asia-northeast1 \
  --network=default

# Cloud NATの作成
gcloud compute routers nats create nemoclaw-nat \
  --project=[PROJECT_ID] \
  --router=nemoclaw-router \
  --region=asia-northeast1 \
  --auto-allocate-nat-external-ips \
  --nat-all-subnet-ip-ranges \
  --enable-logging