Changes
Co-authored-by: Reifonas <211114984+Reifonas@users.noreply.github.com>
This commit is contained in:
+89
-56
@@ -1,78 +1,111 @@
|
||||
## Plano: Grab nativo dos controles Touch Plus (Quest 3) para "vestir" a peça virtual
|
||||
## Objetivo
|
||||
|
||||
Objetivo: permitir que o usuário **agarre a peça virtual com o grip** do Touch Plus e a movimente em 6 graus de liberdade junto com a mão (translação + rotação simultâneas), e use **as duas mãos juntas** para girar/escalar com naturalidade. Joystick atual continua existindo como ajuste fino.
|
||||
Construir uma **"giga de teste"** (DevKit) que vista o app com simulação completa de XR + instrumentação, permitindo:
|
||||
|
||||
### 1. Camada de input nova: `useControllerGrab`
|
||||
1. **Você (sem Quest):** validar quase 100% do fluxo direto no navegador, incluindo grab, posicionamento e medição.
|
||||
2. **Testador (com Quest):** receber um build com painel de diagnóstico visível e log persistente, devolvendo feedback objetivo.
|
||||
3. **Remoção limpa:** quando o app estiver maduro, apagar 1 pasta + remover 3 imports + apagar 1 flag → app puro restaurado.
|
||||
|
||||
Novo hook em `src/hooks/useControllerGrab.ts` que encapsula tudo que falta hoje:
|
||||
## Princípios de isolamento
|
||||
|
||||
- Lê `session.inputSources` a cada frame e identifica os `XRInputSource` "left" e "right".
|
||||
- Para cada controle, expõe:
|
||||
- `gripValue` (0..1, analógico, vindo de `gamepad.buttons[2].value`).
|
||||
- `triggerValue` (0..1, `buttons[1].value`).
|
||||
- `isGrabbing` (boolean com histerese: começa em `value > 0.7`, termina em `< 0.3` — evita flicker).
|
||||
- `gripPose`: matrix4 da pose do `inputSource.gripSpace` no `referenceSpace` atual, atualizada por frame via `XRFrame.getPose()`.
|
||||
- Também escuta os eventos nativos `squeezestart` / `squeezeend` da `XRSession` como fallback caso o gamepad não exponha valor analógico.
|
||||
- Todo código do DevKit vive em **`src/devkit/`** (pasta nova). Nada de código de simulação espalhado pelo app.
|
||||
- Ativação por **flag única** `?devkit=1` na URL **OU** `localStorage.setItem('devkit', '1')`. Sem flag → app roda exatamente como hoje.
|
||||
- Componentes do DevKit são montados condicionalmente em **3 pontos de injeção** apenas (todos em `XRSession.tsx`). Esses pontos ficam marcados com comentário `// DEVKIT: remove this block` para facilitar a limpeza futura.
|
||||
- Zero alteração de lógica de negócio. Tudo que o DevKit faz é **observar** (logger), **simular** (fake inputs) ou **adicionar UI extra** (painel).
|
||||
|
||||
### 2. Componente `XRGrabbable` em volta da peça
|
||||
## Componentes do DevKit
|
||||
|
||||
Novo arquivo `src/components/three/XRGrabbable.tsx`. Wrappa o `<XRModel/>` em um `<group>` controlado e implementa as três modalidades de grab:
|
||||
### 1. `devkit/DevKitFlag.ts` — detector de modo
|
||||
Hook `useDevKit()` retorna `boolean`. Lê `URLSearchParams` + `localStorage`. Se `true`, ativa todo o resto.
|
||||
|
||||
- **One-hand grab**: quando `isGrabbing` de uma mão dispara, calcula matrix relativa `M_offset = gripPose⁻¹ · modelPose`. A cada frame, enquanto segura, faz `modelPose = gripPose · M_offset`. Resultado: a peça vira "extensão da mão", com translação + rotação simultâneas.
|
||||
- **Two-hand grab** (quando ambas as mãos estão segurando):
|
||||
- Pivô = ponto médio entre os dois `gripPose`.
|
||||
- Rotação = orientação do vetor entre as duas mãos (mantém o cabo da viga sempre alinhado com o eixo entre os punhos).
|
||||
- Escala = razão entre a distância atual e a distância no momento em que a 2ª mão agarrou (com clamp 0.1× a 10×). **Opcional**: pode ser desabilitada na HUD para usos onde a escala 1:1 é obrigatória (caso "vestir" sobre peça real).
|
||||
- Ao soltar (`isGrabbing` cai), grava a pose final em `useModelStore.fineTuning` (decompõe em `posX/Y/Z`, `rotX/Y/Z`, e `scale` se two-hand estiver ativo) — assim o estado fica consistente com o joystick e os controles do HUD.
|
||||
### 2. `devkit/SimXRSession.tsx` — modo "Faux-XR" pra desktop
|
||||
**Resolve seu problema #1:** validar tudo sem headset.
|
||||
|
||||
### 3. Joystick continua, agora modulado pelo grip analógico
|
||||
Quando ativado (botão "🧪 Simular XR" no header, só aparece com `?devkit=1`):
|
||||
- Não chama `store.enterAR()` (que falha sem HTTPS/headset compatível).
|
||||
- Em vez disso, força `inXR=true` num estado paralelo `simXR`.
|
||||
- Renderiza a árvore `XRGrabbable + XRModel` **sem** `XRHitTestPlacement` (auto-posiciona em `[0,0,-1.5]`).
|
||||
- Substitui leitura de `session.inputSources` por uma fonte **fake** (ver #3).
|
||||
- Câmera fica controlável por `OrbitControls` (você navega como quiser).
|
||||
|
||||
Em `ControllerFineTuning` (dentro de `XRSession.tsx`):
|
||||
### 3. `devkit/FakeControllers.tsx` — controles virtuais com mouse/teclado
|
||||
**Resolve seu problema #2:** testar grab sem Touch Plus.
|
||||
|
||||
- Mantém o mapeamento atual mas **só ativa quando NENHUM grip está apertado** (para não brigar com o grab).
|
||||
- `posStep` e `rotStep` ganham multiplicador derivado de `triggerValue` da mesma mão: trigger leve = passo fino (×0.3), trigger forte = passo rápido (×3). Resolve a queixa de "movimento mecânico".
|
||||
- Mapeamento corrigido para o padrão VR (já discutido):
|
||||
- Esquerdo: X horizontal / Z vertical (frente-trás).
|
||||
- Direito: rotY horizontal / Y altura vertical.
|
||||
- Adiciona aceleração proporcional (curva quadrática no input do thumbstick) e deadzone de 0.15.
|
||||
- Desenha 2 esferas coloridas (L=azul, R=vermelho) na cena, posicionáveis por **arrastar com mouse**.
|
||||
- Atalhos teclado:
|
||||
- `Q` / `W` → segurar grip esquerdo / direito (analógico simulado em 1.0)
|
||||
- `A` / `S` → segurar trigger esquerdo / direito
|
||||
- `Setas` → mover controle ativo
|
||||
- `Shift + Setas` → mover controle no eixo Z
|
||||
- Expõe um `FakeInputProvider` (Context) que `useControllerGrab` consome **quando em modo DevKit**. Sem DevKit, hook continua lendo `session.inputSources` real.
|
||||
- **Mudança mínima em `useControllerGrab.ts`:** uma linha checando `if (devkit) return useFakeInputs()`. Removível.
|
||||
|
||||
### 4. Escala no store
|
||||
### 4. `devkit/DevPanel.tsx` — painel de diagnóstico flutuante
|
||||
Painel HTML overlay (canto direito), só visível com `?devkit=1`:
|
||||
- **Aba "Inputs":** valores ao vivo de cada controle (real ou fake) — grip, trigger, axes, hasPose
|
||||
- **Aba "Cena":** posição/rotação/escala do grupo grabável, contagem de meshes, bbox
|
||||
- **Aba "XR":** `session?.mode`, hit-test ativo, planos detectados (count + labels), FPS
|
||||
- **Aba "Logs":** últimos 100 console.logs com timestamp, filtro por tag (`[XR]`, `[grab]`, `[HitTest]`)
|
||||
- Botão **"Exportar relatório"** → baixa JSON com snapshot atual + screenshot do canvas. **Você pede pro testador clicar isso e te enviar o arquivo.**
|
||||
|
||||
`src/stores/useModelStore.ts`: adicionar `scale: number` ao `FineTuning` (default 1). `XRModel` e `ModelViewer` aplicam `scale={[s,s,s]}` no `<group>`.
|
||||
### 5. `devkit/XRDevHud.tsx` — HUD in-world expandido (substitui o `XRDebugHud` atual quando ativo)
|
||||
Painel 3D maior, ancorado no pulso esquerdo (não na câmera, pra não atrapalhar). Mostra mesmas infos da aba "Inputs" + "XR" do DevPanel. Visível **dentro do headset**, essencial pro testador.
|
||||
|
||||
### 5. UI: feedback visual e ajuda
|
||||
### 6. `devkit/SmokeTest.tsx` — roteiro automático
|
||||
Rota nova `/devkit/smoke` (só roteada com `?devkit=1`):
|
||||
- Sequência scriptada: carrega demo → simula grip esquerdo → move 50cm → solta → mede 2 pontos → screenshot → checklist.
|
||||
- Cada passo mostra ✅/❌ + tempo.
|
||||
- Você roda antes de mandar build pro testador.
|
||||
|
||||
- `XRGrabbable` mostra um halo sutil ao redor da peça quando `gripValue > 0.1` em qualquer mão (intensidade proporcional → o usuário sente a pressão analógica).
|
||||
- `src/components/XRHud.tsx`: na seção de Ajuda (?), adicionar bloco "Agarrar a peça":
|
||||
- "Aperte o grip lateral de um controle perto da peça → ela vira extensão da sua mão."
|
||||
- "Agarre com os dois grips ao mesmo tempo → rotacione girando os punhos / aproxime-afaste para escalar."
|
||||
- "Solte o grip para fixar."
|
||||
- "Trigger modula a velocidade do joystick (leve = fino, forte = rápido)."
|
||||
- Adicionar toggle "Permitir escala (two-hand)" — default OFF para preservar 1:1.
|
||||
### 7. `devkit/RecordSession.tsx` — gravador de "macros"
|
||||
Botão "Gravar" no DevPanel: captura por 30s todos inputs + posições da cena num JSON. Botão "Reproduzir": replay do macro. Útil pra reproduzir um bug que o testador relatou ("clico aqui, viro assim, peça desaparece").
|
||||
|
||||
### 6. Integração e ordem de aplicação
|
||||
## Pontos de injeção em `XRSession.tsx`
|
||||
|
||||
No `XRSession.tsx`, a árvore vira:
|
||||
Apenas 3 blocos curtos, todos cercados por `{devkit && <... />}`:
|
||||
|
||||
```tsx
|
||||
// DEVKIT: remove this block
|
||||
{devkit && <SimXRButton onActivate={setSimXR} />}
|
||||
|
||||
// DEVKIT: remove this block
|
||||
{devkit && simXR && <FakeControllers />}
|
||||
|
||||
// DEVKIT: remove this block
|
||||
{devkit && <DevPanel />}
|
||||
```
|
||||
<XRHitTestPlacement> (posicionamento inicial)
|
||||
<XRGrabbable> (grab 6DOF + two-hand)
|
||||
<XRModel/>
|
||||
|
||||
E uma linha em `useControllerGrab.ts`:
|
||||
```ts
|
||||
// DEVKIT: remove this conditional
|
||||
if (typeof window !== 'undefined' && useDevKitFake()) return fakeRef;
|
||||
```
|
||||
Hit-test só atua enquanto `placementMode = true`. Quando o usuário agarra pela primeira vez, `placementMode` é desligado automaticamente.
|
||||
|
||||
### Detalhes técnicos
|
||||
## Como remover o DevKit no futuro (1 minuto)
|
||||
|
||||
- Tudo via WebXR Gamepad API + `XRFrame.getPose(gripSpace, referenceSpace)`. Sem dependências novas.
|
||||
- Histerese do grip evita perder o grab por tremor de mão.
|
||||
- Decomposição de matrix usa `THREE.Matrix4.decompose()` para gravar de volta no store sem perder rotação composta.
|
||||
- Plane snapping continua ativo durante o grab (snap acontece no `onRelease`, não a cada frame, para não travar o movimento).
|
||||
- Logs `[XR][grab]` para diagnóstico (start/end, qual mão, valor analógico).
|
||||
1. `rm -rf src/devkit/`
|
||||
2. Em `XRSession.tsx`: deletar 3 blocos marcados `// DEVKIT:` + import.
|
||||
3. Em `useControllerGrab.ts`: deletar linha marcada `// DEVKIT:`.
|
||||
4. Pronto — app puro, zero resíduo.
|
||||
|
||||
### Arquivos afetados
|
||||
## Entregas desta primeira leva (priorizadas)
|
||||
|
||||
- **Novo**: `src/hooks/useControllerGrab.ts`
|
||||
- **Novo**: `src/components/three/XRGrabbable.tsx`
|
||||
- **Editado**: `src/pages/XRSession.tsx` — envolver modelo, ajustar `ControllerFineTuning` (mapeamento + modulação por trigger + bypass quando grip ativo)
|
||||
- **Editado**: `src/stores/useModelStore.ts` — campo `scale`
|
||||
- **Editado**: `src/components/three/ModelViewer.tsx` — aplicar `scale`
|
||||
- **Editado**: `src/components/XRHud.tsx` — toggle "permitir escala", ajuda nova
|
||||
Pra não fazer tudo de uma vez, **proponho entregar nesta ordem**, validando cada etapa antes da próxima:
|
||||
|
||||
**Fase 1 (essencial — destrava você hoje):**
|
||||
- DevKitFlag + SimXRSession + FakeControllers + DevPanel (aba Inputs + Logs)
|
||||
|
||||
**Fase 2 (essencial — instrumenta o testador):**
|
||||
- XRDevHud expandido + DevPanel aba Cena/XR + Exportar relatório
|
||||
|
||||
**Fase 3 (qualidade de vida):**
|
||||
- SmokeTest + RecordSession
|
||||
|
||||
Posso entregar a **Fase 1 inteira** agora numa única leva, e as fases 2 e 3 sob demanda quando você validar que a 1 te serve. Cabe?
|
||||
|
||||
## Detalhes técnicos
|
||||
|
||||
- **Sem novas dependências.** Tudo com Three.js, R3F, Zustand já presentes.
|
||||
- **TypeScript rigoroso.** Tipos compartilhados entre real e fake (mesma interface `ControllerGrabSnapshot`).
|
||||
- **Zero impacto em produção:** sem flag, bundle do DevKit nem é importado se usarmos `React.lazy()` na entrada.
|
||||
- **Hot-swappable:** ligar/desligar o DevKit não recarrega a página (estado da cena preservado).
|
||||
|
||||
Reference in New Issue
Block a user