AwareLiquid-Physic은 물리 계산을 손실 항으로 덧붙이는 대신 모델 아키텍처에 포함한 궤적 예측 프로젝트다. 연속시간 액체 신경망(LTC) 반복 구조 위에 학습 가능한 해밀토니안과 심플렉틱 적분기를 제약으로 적용한다.
프로젝트는 에너지 보존을 구성 단계에서 보장하며, 학습된 에너지 함수에 대해 에너지 오차가 O(dt²)로 제한되고 시간 역전성이 정확하다고 설명한다. 이 방식은 PINN 문헌을 검토한 뒤 PDE 잔차 손실을 쓰는 소프트 제약 대신 선택한 하드 제약 접근이다. 해밀토니안 신경망(Hamiltonian NN)은 Greydanus의 2019년 연구를 언급한다.
구조와 구성 요소
아키텍처 설명은 관측된 궤적의 앞부분을 LiquidCore가 읽고, 문맥 벡터로 궤적별 숨은 매개변수를 추정한 뒤, HamiltonianHead가 미래 상태를 심플렉틱 방식으로 예측하는 흐름이다.
`observed trajectory prefix
│
▼
LiquidCore (LTC) multi-timescale gated linear recurrence,
│ trained via Blelloch parallel scan (O(log T))
▼
context vector system identification: infers per-trajectory
│ hidden parameters (e.g. a spring's stiffness)
▼
HamiltonianHead separable H(q,p) = T(p) + V(q | context)
│
▼
symplectic rollout velocity-Verlet; energy conserved by construction
`
저장소의 주요 구성 요소는 다음과 같다.
awareliquid_physics/liquid_core.py는 LTC 반복 구조를 구현한다. 각 시간 척도는 학습 가능한 시간 상수를 가진 누수 적분기이며, 입력에 따라 달라지는 게이트로 여러 척도를 결합한다.parallel_scan.py를 이용해 O(log T) 깊이로 실행한다.awareliquid_physics/hamiltonian.py에는 하드 제약을 적용한 심플렉틱HamiltonianHead와, 에너지 보존을 적용하지 않고 일반 오일러 적분을 쓰는 대조군MLPFieldHead가 있다.awareliquid_physics/model.py의LiquidHamiltonianModel은 LiquidCore가 궤적 앞부분을 읽어 해밀토니안의 위치 에너지를 조건화한 뒤 심플렉틱 롤아웃으로 미래를 예측한다. 프로젝트 설명에 따르면 하나의 고정된 위치 에너지 함수로는 여러 시스템을 다루기 어렵고, 액체 문맥은 궤적마다 에너지 지형에 적응하도록 한다.awareliquid_physics/physics_ops.py는 학습 매개변수가 없는 결정론적 뉴턴 역학 연산자 계층이다. 심플렉틱 오일러 적분, N체 중력, 충돌, 에너지·운동량 진단을 포함하며, 학습 모델의 벤치마크에 쓰는 기준 엔진이다.
벤치마크 결과
물리 롤아웃 평가의 자유형 헤드 비교에서는 1단계 적합 손실을 두 모델 모두 약 5e-6으로 맞춘 뒤 물리 지표를 평가했다.
- 용수철의 150단계 에너지 드리프트는 하드 제약 Hamiltonian 모델이 0.012, MLP-field 대조군이 0.036으로, 전자가 3.0배 낮았다.
- 궤도의 100단계 에너지 드리프트는 각각 6.2와 37.8로, 하드 제약 모델이 6.0배 낮았다.
- 궤도의 100단계 롤아웃 MSE는 각각 2.8e-3과 6.6e-2로, 하드 제약 모델이 23.8배 낮았다.
별도의 액체 문맥 결합 실험은 궤적마다 강성이 다른 진동자 계열에서 앞부분을 입력으로 받아 100단계를 예측했다.
liquid_ham(액체 신경망 + 해밀토니안)은 롤아웃 MSE 4.12, 최종 에너지 드리프트 0.70, 매개변수 8.7k를 기록했다.static_ham(문맥 없는 해밀토니안)은 각각 4.41, 0.18, 5.0k를 기록했다.gru_seq(비구조적 대조군)는 각각 7.24, 2.96, 10.0k를 기록했다.
프로젝트는 이 결과에서 물리 구조가 GRU 기준선보다 긴 구간의 안정성을 높였고, 액체 문맥은 숨은 매개변수에 대한 적응을 도왔다고 해석한다. liquid_ham은 GRU보다 롤아웃 오차가 약 2.9배, 드리프트가 약 4배 낮았으며, 문맥 없는 static_ham보다 롤아웃 MSE가 낮았다. 반면 고정된 위치 에너지 함수를 쓰는 static_ham의 에너지 드리프트가 가장 낮았다. 프로젝트는 이를 적응성과 에너지 보존 사이의 절충으로 보고한다.
범위와 사용법
범위 안내에 따르면 이 프로젝트는 물리 지표인 k단계 롤아웃 MSE와 에너지 드리프트로 검증하는 연속 상태 궤적 예측 모델이다. 언어 모델이 아니며 환각을 다루거나 관련 주장을 하지 않는다.
사용 안내에 적힌 설치 및 실행 명령은 다음과 같다. 모든 벤치마크는 CPU에서 실행할 수 있다.
```bash
pip install -e ".[dev]"
python -m pytest tests/ -q # 13 tests
free-standing head: symplectic vs Euler control
python benchmarks/physics_rollout_eval.py --system spring
python benchmarks/physics_rollout_eval.py --system orbit
the coupling experiment: liquid_ham vs static_ham vs gru_seq
python benchmarks/liquid_physics_eval.py --train_steps 500
```
로드맵에는 결합 실험에 더 다양한 시스템 계열을 추가하는 일, 비분리형 해밀토니안 지원, 액체 신경망과 예측 구간 확장, 문맥 조건부 운동 에너지 항이나 드리프트 페널티 학습으로 적응성과 보존 사이의 격차를 줄이는 일이 포함된다. 저장소는 이전에 Kaggle Nemotron 추론 챌린지 출품작을 담았으며, 해당 내용은 v0.1.0 이전 Git 기록에 남아 있다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요