“내가 선을 긋는 순간, 나의 한계가 결정된다.” 

– 레슬링 금메달리스트, 심권호 –

이 말은 단순한 의지를 넘어서, 우리가 어떤 관점으로 문제를 보고, 어디까지를 가능성으로 여길 것인가를 결정짓는 인식의 구조를 꿰뚫는 말이다. 우리는 삶과 일, 기술과 설계 전반에서 끊임없이 ‘선’을 긋는다.

무엇을 할 수 있고, 무엇은 할 수 없으며, 어디까지는 가능하고, 그 너머는 불가능하다고 여긴다. 이때 이 선은 보호막이 되기도 하고, 성장을 가로막는 경계가 되기도 한다.

중요한 건 이 선이 외부에 의해 그어진 것이 아니라, 내가 긋는 순간 나의 가능성까지 제한된다는 것이다.

AI는 어디까지 갈 수 있는가?

오늘날 우리는 AI 기술의 놀라운 성능을 목격하고 있다. 그러나 동시에,이 AI가 해결할 수 있는 문제와 그렇지 못한 문제 사이에는 보이지 않는 선, 즉 구조적 한계가 존재한다.

그 핵심은 바로 이 문장에 담겨 있다. “빅데이터를 기계학습하는 데이터모델 기반의 AI의 한계는, 학습한 데이터들이 한계를 이미 정해버린다.”

AI는 과거의 데이터, 이미 수집된 정보에 기반해 학습한다.

이 말은 곧, 무엇을 배울 수 있는지조차 데이터가 결정한다는 뜻이다. 데이터에 없는 세상은, AI에게는 존재하지 않는 세상이다. 데이터에 포함되지 않은 변수, 고려되지 않은 조건, 반영되지 않은 목적, 이 모든 것은 AI의 판단에서 배제된다.

즉, AI는 배우는 것이 아니라, 주어진 것 안에서 모사하고 조합할 뿐이다. 데이터의 바깥은 AI에게 보이지 않는 벽이다.

학습의 출발점이 곧 사고의 종착점이 된다.

데이터는 사실을 담지만, 문제를 정의하지 않는다

데이터 기반 AI의 또 다른 한계는 목적 없는 사실(fact)들의 집합이라는 점이다. 아무리 많은 데이터가 있어도, 그 자체로는 문제를 정의하거나 목적을 설정할 수 없다.

우리는 문제 해결에서 다음 네 가지 요소를 필요로 한다.

1. 목적(Mission)
2. 구조(Structure)
3. 행동(Action)
4. 결과(Effectiveness)

그러나 데이터는 구조와 목적 없이, 행동과 결과만 나열되어 있다. 그래서 아무리 많은 데이터를 AI가 학습해도, 왜 그것이 중요한지, 어떻게 바뀌어야 하는지는 스스로 알 수 없다.

이것이 바로, 기계학습 기반 AI의 본질적 한계다. 그 한계는 기술 부족이 아니라, 사고의 구조가 결여된 설계 방식 자체에 있다.

한계를 넘기 위한 지혜: DBSE와 BAS

이러한 AI의 한계를 극복하기 위해 필요한 것이 있다. 바로 문제를 구조화하고, 시뮬레이션을 통해 효과를 검증할 수 있는 ‘설계 기반 지능’이다.

DBSE(Digital twin Based System Engineering)는 목적, 구조, 조건, 제약, 경계를 명확히 정의하고 디지털트윈 기반 가상 실험을 통해 문제를 분석, 예측, 최적화하는 프레임워크다.

그리고 이것을 실현하는 핵심 기술이 BAS(Big data + AI + Simulation)이다.

빅데이터는 현실을 반영하고 AI는 패턴을 학습하며 시뮬레이션은 구조와 목적에 따라 실험을 가능하게 한다.

이때 중요한 건 단순한 예측이 아니라 목적에 부합하는 해법의 효과성(MOE: Measure of Effectiveness)을 검증하고 최적화할 수 있다는 점이다.

이런 접근을 통해 AI는 더 이상 데이터의 틀 안에 갇힌 존재가 아니라, 설계자가 정의한 문제공간 안에서 해법을 실험하고 진화하는 지혜의 도구가 된다.

선을 넘지 않는 AI, 선을 그을 수 있는 인간

지금의 AI는 선을 넘을 수 없는 존재다. 그 이유는 간단하다. AI는 스스로 선을 정의하지 못하기 때문이다.

어떤 조건이 중요하고, 어떤 목적이 더 효과적인지를 판단할 수 있는 사고 구조가 없기 때문이다.

그러나 인간은 다르다. 우리는 문제를 정의하고, 경계를 설계하며, 목적을 부여할 수 있다. 그 선을 그을 수도 있고, 필요하면 허물 수도 있다. 심권호 선수가 말한 “내가 선을 긋는 순간, 나의 한계가 결정된다”는 말은 오늘의 AI 시대를 살아가는 우리 모두에게 던지는 질문이다.

지금 내가 긋고 있는 이 선은, 나를 보호하는 선인가? 나를 가두는 선인가? 그리고 또 하나,  지금 내가 설계하는 AI는, 데이터를 좇는 계산기인가? 목적을 이해하고 효과를 판단할 수 있는 지혜의 도구인가?

결론: 설계 없는 AI는 맹목이다

우리는 이제 ‘잘 배우는 AI’보다 ‘문제를 함께 이해하고, 목적에 따라 판단하며, 구조적 해법을 실험하는 AI’가 필요하다. 그 시작은 한계를 인식하고, 문제를 정의하는 능력, 즉, 설계의 철학에 있다.

AI의 한계를 극복하는 길은 더 많은 데이터를 수집하는 것이 아니라, 더 나은 문제 정의와 구조적 실험을 설계하는 것이다. 그 역할은 아직, 우리 인간에게 달려 있다.