기술의 진화가 아니라, 판단의 이전

요즘 피지컬 AI라는 말이 흔해졌다. 로봇, 자율주행, 무인체계, 스마트팩토리까지 모두 피지컬 AI로 불린다. 그러나 정작 중요한 질문은 자주 빠진다. 이 시스템은 무엇을 판단하고 있는가, 그리고 그 판단의 책임은 누가 지는가. 이 질문에 답하지 못한 채 기술만 앞서가면 PAIS는 혁신이 아니라 위험이 된다.

PAIS란 무엇인가

PAIS는 AI 모델이나 로봇 한 대를 의미하지 않는다. 센서와 액추에이터로 현실과 직접 연결되고, 환경을 인식하며, 불확실한 상황에서 사람이 하던 판단을 대신 내려 그 판단을 물리적 행동으로 실행하는 전체 시스템이 PAIS다. 따라서 PAIS의 본질은 지능의 높고 낮음이 아니라 판단의 위임에 있다. 이 지점에서 기존 기술과의 차이가 분명해진다.

전통적 제어시스템과는 무엇이 다른가

전통적인 제어시스템은 입력과 출력의 관계가 수식으로 명확히 정의돼 있고, 판단은 사람이 하며 시스템은 그 판단을 정확히 집행한다. 문제가 생기면 어떤 조건이 잘못됐는지 설명할 수 있고 책임도 분명하다. 제어시스템은 사람의 판단을 대신하지 않는다. 사람의 손과 발로서 기능할 뿐이다.

CPS와는 어디서 갈라지는가

CPS는 센서, 네트워크, 컴퓨팅, 제어를 통합해 실시간 최적화와 적응을 가능하게 했다. 하지만 CPS 역시 무엇을 할 것인지는 사람이 정한다. 시스템은 어떻게 더 잘할 것인가를 다룰 뿐이다. 그래서 CPS는 여전히 설명 가능하고 통제 가능한 자동화로 남는다.

PAIS가 넘는 경계선

PAIS는 이 선을 넘는다. 환경을 인식하고 스스로 추론하며 상황에 따라 판단하고 그 판단을 즉시 행동으로 옮긴다. 이 순간부터 문제의 초점은 성능이나 정확도가 아니라 책임 구조로 이동한다. 판단을 시스템에 위임했는데 그 판단을 설명할 수 없다면, 그 시스템은 이미 위험하다.

생성형 AI와는 왜 다른가

생성형 AI는 선택의 영역이다. 써도 되고, 안 써도 되며, 틀리면 지우면 된다. 그러나 PAIS는 다르다. 한 번 현장에 붙는 순간 사람, 시간, 공간, 책임이 함께 묶인다. 문장이 틀리는 것과 사람 앞에서 잘못 움직이는 것은 같은 오류가 아니다. 그래서 PAIS는 기술 문제가 아니라 사회적·국가적 시스템 문제다.

왜 PAIS는 소버린 AI여야 하는가

PAIS가 특정 글로벌 기업의 생태계에 예속되면 문제는 성능이나 편의성이 아니다. 판단 로직이 블랙박스가 되고 실패 조건과 안전 기준을 우리가 정의하지 못하며, 사고가 나도 그 이유를 설명할 수 없게 된다.

그 결과 우리는 운용자는 되지만 통제자는 아니고, 책임자는 되지만 설명자는 아닌 가장 불리한 위치에 놓인다. 설명할 수 없는 판단은 통제할 수 없고, 통제할 수 없는 시스템은 주권이라 부를 수 없다. 그래서 PAIS에서 말하는 소버린 AI는 국산화의 문제가 아니라 판단과 책임을 스스로 질 수 있느냐의 문제다.

최소한 이것만은 우리가 직접 해야 한다: RTA

PAIS에서 소버린 AI의 최소 조건은 분명하다. RTA(Run-Time Assurance)는 반드시 우리가 직접 설계하고 운영해야 한다. RTA는 AI가 잘 작동할 때를 관리하는 기술이 아니라, AI가 틀릴 때와 위험해질 때 멈추게 하는 최후의 안전장치다. 어떤 조건에서 판단을 무효화할지, 언제 행동을 제한할지, 언제 인간에게 제어권을 넘길지를 외부 플랫폼에 맡기는 순간 판단 주권은 이미 넘어간다.

왜 국가 차원의 PAIS 플랫폼이 필요한가

PAIS는 개별 기업이나 단일 프로젝트가 감당할 수 있는 문제가 아니다. 국방, 교통, 에너지, 의료, 산업 인프라처럼 적용 영역 자체가 국가 안전과 직결되기 때문이다.

공통의 판단 프레임과 디지털 트윈 기반 가상실험, 사전 검증과 책임 구조, 국가가 통제하는 RTA 기준을 포함하는 국가 차원의 PAIS 개발·운영 플랫폼이 필요하다. 이는 기술 보호의 문제가 아니라 책임을 질 수 있는 구조를 국가가 갖추는 일이다.

맺으며

제어시스템과 CPS는 사람의 판단을 돕는 기술이었다. PAIS는 사람의 판단을 대신하는 시스템이다. 그래서 기준이 달라야 한다. 생성형 AI는 선택할 수 있지만 PAIS는 선택의 문제가 아니다. PAIS를 어떻게 설계하느냐는 미래 기술의 문제가 아니라 사람의 안전과 국가의 책임을 어떻게 지킬 것인가에 대한 선택이다.