日本フィジカルAI新聞

世界のフィジカルAIを、日本語で。

テキストto3D/物理シミュレーションarXiv:2611.11087

変形物体対応の物理拡張テキストto3Dシーン生成フレームワークSoftPAT3D

SoftPAT3D: Physics-Augmented Text-to-3D Scene Generation with Deformables

シェア:XThreadsFacebookLINEはてブBluesky

布・ぬいぐるみ・ロープなどの変形物体を、自己交差のない物理的に妥当でシミュレーション可能な状態で生成し、家具や互いと接触させて静的平衡に至らせるテキストto3Dシーン生成手法。

詳しい要約

1. どんなもの?

- テキストから3Dシーンを生成する枠組み SoftPAT3D の提案 - cloth、stuffed toys、ropes などの deformable objects を対象に含む - 生成物を physically valid かつ simulation-ready な物体として出力 - 支持する家具・物体同士・自己との間で intersection-free contact を実現 - 出力は静的平衡状態に到達したシーン - そのまま scene editing や robotic manipulation に利用可能と主張

2. 先行研究と比べてどこがすごい?

- 既存の physics-augmented pipelines は rigid bodies のみを扱い、deformable object を扱えない - text-to-3D 生成が返す deformable mesh は幾何的に不正で、自己交差・rest shape なし・material model なし・admissible initial state なしという問題がある - SoftPAT3D はこれら不足入力をパイプライン内の既存情報から構築 - 65 プロンプト全てで望まぬ interpenetration をゼロに - 比較した他の全システムでは interpenetration が発生したと報告

3. 技術・手法の肝は?

- rest shape を生成された物理的に矛盾した変形形状ではなく製造過程の情報から構築 - material library が各 deformable object に初期 elastic parameters を付与し、後に最適化可能 - 遮蔽された support を再生成し watertight collision mesh に変換 - 各物体を prompt が指定する支持部位の上方の最適化可能な配置から解放 - 単一の unified contact model の下でシーン全体を static equilibrium へ駆動 - 失敗時は placements の grid search で修正 - 同一 contact energy の differentiable simulation の adjoint により、grid で届かない目標達成・複数物体の同時配置・material parameters の回復と最適化を実施

4. どうやって有効だと検証した?

- 65 プロンプトで評価 - SoftPAT3D はあらゆる種類の望まぬ interpenetration を発生させず - 他の全システムでは発生したと報告 - シーンの completion を geometric checks と vision-language model で検証 - multi-body scenes が単一 simulation で平衡化することを確認 - text prompt のみからの実行も確認 - 生成シーンが scene editing と robotic manipulation を直接支えることを示す

5. 議論はある?

- 比較対象システムの具体的名称や詳細な定量指標は要旨からは不明 - grid search と adjoint 最適化の使い分けの限界や計算コストは要旨からは不明 - vision-language model による検証の信頼性や失敗率は要旨からは不明 - material parameter 最適化の精度や収束性は要旨からは不明

6. 次に読むべき論文は?

- 既存の physics-augmented text-to-3D pipelines(rigid bodies のみを扱う手法) - text-to-3D generation の代表的手法(deformable mesh を生成するもの) - differentiable simulation と adjoint 法に関する研究 - cloth・rope などの deformable object simulation の材料モデル研究 - vision-language model を用いた3Dシーン評価手法

※ AIが要旨から生成した要約です。正確性は原文をご確認ください。

著者: Lei Shu, Alberta Longhini, Leonidas Guibas, Gordon Wetzstein, Jeannette Bohg

分類: cs.CV, cs.GR, cs.RO

原文アブストラクト

We present SoftPAT3D, a physics-augmented framework for text-to-3D scene generation in which deformable objects, such as cloth, stuffed toys and ropes, are generated as physically valid, simulation-ready bodies and placed in intersection-free contact with the furniture that supports them, with one another and with themselves. Existing physics-augmented pipelines simulate rigid bodies only and cannot accommodate a generated deformable object, which text-to-3D generation returns as a geometrically invalid mesh, sometimes self-intersecting, that has no rest shape, no material model and no admissible initial state. These are the inputs a deformable simulation requires, and we construct each from information already in the pipeline. The rest shape comes from how the object is manufactured rather than from the generated physically inconsistent deformed configuration, and a material library assigns each deformable object its initial elastic parameters, which can then be optimized. The occluded support is regenerated and converted into a watertight collision mesh, each object is released from an optimizable placement above the supporting part that the prompt specifies, and the complete scene is driven to static equilibrium under one unified contact model, with completion verified by geometric checks and a vision-language model. When a scene fails the prompt, a grid search over placements corrects it, and the adjoint of a differentiable simulation of the same contact energy reaches the targets the grid does not, places several bodies jointly and recovers and optimizes material parameters. Multi-body scenes equilibrate in a single simulation, and the pipeline also runs from the text prompt alone. On all sixty-five prompts, SoftPAT3D produces no undesired interpenetration of any kind, whereas every other system does, and its scenes directly support scene editing and robotic manipulation.

  1. 1パナソニックHDら、ロボット操作AI「T-Rex」を共同開発 12タスクで平均成功率65%研究・技術
  2. 2Hugging Face、ロボット学習基盤「LeRobot v0.7.0」を公開 対話操作と大規模データ学習に対応新製品・発表
  3. 3NVIDIA、Vera CPUのエージェント処理性能を公表 x86比で速度・電力効率を比較半導体・GPU
  4. 4Agility、SPAC合併でナスダック上場資金調達
  5. 5智元、清華大学などとCELを発表 96台のロボットで群体学習を検証研究・技術
PR本紙発行元 EmplifAI