인공지능(AI)은 인간이 만든 기술이다. 그러나 오늘날 AI는 단순한 알고리즘이나 모델을 넘어 현실의 의사결정과 물리적 행동에 직접 영향을 미치는 매우 중요한 구성요소가 되었다. 그렇다면 우리는 AI를 어떤 관점에서 바라보아야 할까. 답은 시스템 엔지니어링(Systems Engineering)에 있다.

시스템 엔지니어링이란 무엇인가

시스템 엔지니어링은 복잡한 시스템을 전체 생애주기 관점에서 설계·통합·검증·운영하는 방법론이다. 목적을 정의하고 요구사항을 도출하며, 다양한 구성요소를 통합하고, 운영환경을 고려하고, 위험을 분석하고, 검증과 보증 구조를 설계한다. 핵심은 부분이 아니라 전체를 보는 것이다.

시스템은 제품(Product), 프로세스(Process), 사람(People)이 서로 상호작용하며 운영환경(Environment) 속에서 동적으로 작동하는 구조다. AI를 이 틀 안에서 보지 않으면 우리는 모델 성능에만 집중한 채 시스템 리스크를 놓치게 된다.

AI는 Product다, 그러나 결과는 시스템이 만든다

AI는 예측하고 분류하고 최적화하는 기능 모듈이다. 그러나 그 자체로 결과를 만들지 않는다. 같은 모델이라도 어떤 프로세스에 배치되고 어떤 책임 구조 안에서 운용되느냐에 따라 결과는 달라진다. AI는 목표를 최적화할 수 있지만, 목표를 설정하지는 못한다. 의사결정의 맥락과 책임은 여전히 사람과 프로세스의 영역이다.

따라서 AI 도입은 모델의 문제가 아니라 시스템 재설계의 문제다.

운영환경은 배경이 아니라 설계 조건이다

AI는 항상 특정 운영환경 속에서 작동한다. 물리 조건, 규제, 시장 구조, 적대적 행위자, 분포 이동은 시스템 성능과 안전을 좌우한다. 모델이 어떤 환경 가정 위에서 학습되었는지, 환경 변화에 어떻게 대응하는지, 운용 범위가 어디까지인지가 명확히 정의되어야 한다.

환경을 고려하지 않은 AI는 실험실에서는 강하지만 현실에서는 취약하다.

월드모델, JEPA, 공간지능 – 그리고 그 한계

엔비디아의 월드모델은 행동 결과를 예측하는 내부 동적 모델이며, 얀 르쿤(Yann LeCun)의 JEPA(Joint Embedding  Preditive Architecture)는 의미적 표현 공간에서 세계 변화를 예측하려는 구조다. 공간지능은 물리 공간을 이해하고 계획하는 능력을 강조한다. 이 기술들은 분명 진전이다.

그러나 공통점이 있다. 모두 세계에 대한 가설적 모델이라는 점이다. 데이터와 가정 위에서 학습된 근사기일 뿐, 현실을 완전하게 보증하는 구조는 아니다. 자율의 수준은 모델의 정확도가 아니라 검증된 경계와 제약 구조에 의해 결정된다.

피지컬 AI에서 중요한 것은 ‘자율’이 아니라 ‘보증’이다

물리 세계에서 작동하는 AI는 실패가 곧 현실의 위험으로 이어질 수 있다. 그래서 시스템 엔지니어링은 자율보다 먼저 보증을 요구한다. 모델이 요구사항을 정확히 구현했는지 검증(Verification)하고, 실제 운용 목적에 부합하는지 타당성을 확인(Validation)해야한다. 운용 범위를 명확히 정의하고, 실패 모드를 사전에 규정해야 하며, 실행 중에는 지속적인 모니터링과 Run-Time Assurance(RTA) 구조가 필요하다. 자율은 기술적 성과일 수 있지만, 보증은 시스템적 조건이다.

DBSE: 개념과 현실을 연결하는 구조

여기서 중요한 접근이 DBSE(Digital twin-Based Systems Engineering)다. DBSE는 개념과 현실 시스템을 디지털 트윈으로 연결하여, 실제 운용 전에 가상환경에서 구조를 검증하고 의사결정을 최적화하는 방법론이다. 이는 단순한 시뮬레이션이 아니라, 시스템의 목적·구조·동역학을 명확히 정의하고 그 위에서 실험하고 검증하는 체계다.

DBSE는 모델을 믿는 것이 아니라, 모델을 시험하고 한계를 드러내며 운용 범위를 명확히 한다. 이는 피지컬 AI시스템(Phsiycal AI System, PAIS)에서 필수적인 사전 검증 구조다.

WAiSER: 판단을 위한 가상실험 플랫폼

이러한 DBSE 접근을 구현하는 도구가 WAiSER와 같은 디지털 트윈 기반 가상실험 플랫폼이다. WAiSER는 복잡한 시스템을 구조적으로 모델링하고, 다양한 시나리오에서 가상실험을 수행하며, 의사결정 결과를 사전에 평가할 수 있도록 한다.

이는 단순한 예측 모델이 아니라, 월드모델 위에서 검증과 보증을 수행하는 플랫폼이다. 학습 기반 AI의 결과를 그대로 실행하는 것이 아니라, 가상실험을 통해 위험을 분석하고 제약을 설계하는 구조다.

결론

AI는 기술이 아니다. 그것은 시스템 안에 삽입된 구성요소다. 월드모델, JEPA, 공간지능은 진전된 기술이지만, 그 자체가 안전과 책임을 보장하지는 않는다. 보증 없는 자율은 위험하다.

AI 시대의 핵심은 더 큰 모델이 아니라, 더 정교한 시스템 설계다. DBSE와 디지털 트윈 기반 가상실험은 그 설계의 도구가 될 수 있다.

우리는 지금 모델을 발전시키고 있는가, 아니면 자율을 감당할 시스템을 설계하고 있는가? AI라는 ‘나무’만 보지말고 ‘시스템’이라는 숲도 보자.