mm_reliable — MolmoSpaces 물체·그리퍼 dense 3D 라벨

allenai/molmo-motion-1m 의 MolmoSpaces 서브셋에서 만든 물체·그리퍼 dense 3D 궤적 라벨이다. 물체와 그리퍼가 강체라는 점을 이용해 GT 희소 트랙으로 프레임별 SE(3) 를 구하고, 그걸로 마스크 안 모든 픽셀의 3D 궤적을 만든다. 생성 코드는 sheep1283/TC3R_annotation 의 scripts/pseudo_full/. 원본 영상·카메라·캡션은 molmo-motion-1m 에서 받는다 (서브데이터셋별 라이선스를 따른다).

구성

경로	내용
data/gt-NNNN.tar	gt/<key>.npz — GT 희소 트랙 (45프레임 × 100점, 카메라·월드 좌표, 가시성, 포즈)
data/obj_dense-NNNN.tar	obj_dense/<key>.npz — 물체 dense 궤적 (프레임0 포인트맵 + int8 양자화 변위, 마스크, 가시성)
data/grip_dense-NNNN.tar	grip_dense/<key>.npz — 그리퍼 dense 궤적 (그리퍼 GT 가 있는 2cam 클립만)
data/frames_meta-NNNN.tar	frames/<key>/meta.json — 영상 id, 라벨 45프레임의 영상 프레임 번호(offsets), 카메라 내부 파라미터
key_map_msdepth.json	키 → 영상 id → jini-yang/ms_depth 키와 그 키가 든 샤드
camera_index.json	키 → 카메라 이름 (카메라 필터용)
gripper_keys_all.txt	그리퍼 라벨이 있는 키 목록

tar 를 풀면 gt/, obj_dense/, grip_dense/, frames/ 가 한 폴더 아래 생긴다. 그게 TrackCraft3R_forcasting 의 MM_RELIABLE_ROOT 레이아웃이다.

깊이 (모델 입력)

모델의 기하 입력은 DA3 깊이다. jini-yang/ms_depth 는 이 라벨의 offsets 에 정확히 맞춰 뽑고 프레임별로 GT 트랙에 맞춰 metric 보정한 깊이 (45, 280, 504) float16 이다. 다만 키 번호 체계가 다르다(같은 영상이 여기서는 c100003, ms_depth 에서는 c78675). key_map_msdepth.json 으로 대응시키고, 필요한 클립이 든 샤드(ms_depth_tar)만 받으면 된다.