AGI는 정말 올까? AI의 진짜 진화 방향

최근 몇 년 동안 AGI(인공지능 일반화, Artificial General Intelligence) 에 대한 논쟁이 뜨겁다. "AGI가 언제 등장할까?"라는 질문은 마치 미래를 내다보는 점쟁이의 예언처럼 다뤄지곤 한다. 어떤 사람들은 "10년 뒤에 올 것" 이라고 말하고, 또 어떤 사람들은 "내일이라도 터질 일" 이라고 주장한다.

하지만, 정말 중요한 건 AGI의 도래 시점이 아니라 AI가 어떻게 발전하고 있는가 이다.

---

AI는 정말 인간을 대체할 수 있을까?

우리는 흔히 AI 발전을 "완전한 자율성을 향한 행진" 으로 생각하지만, 실제로는 조금 다르다. AI는 점점 더 적은 인간의 개입으로 더 많은 일을 해낼 수 있도록 발전하고 있다.
예를 들어,

• AI는 점점 더 많은 데이터를 라벨링할 수 있다.
• AI는 더 많은 코드를 작성하고, 수학 문제를 풀고, 자율주행을 한다.
• 하지만, 완전한 자율은 여전히 불확실하다.

궁극적으로 우리는 AI가 인간의 개입 없이 경제적 가치를 창출할 수 있는가? 라는 문제를 고민해야 한다. 만약 AI가 완전히 인간의 개입 없이 작동 할 수 있다면, 그것이야말로 진정한 혁명이자, 동시에 두려운 미래가 될 것이다.

---

 2017년의 AI 열풍을 기억하는가? (자율주행의 교훈)

AI 발전의 역사를 돌아보면, 오늘날의 LLM(대형 언어 모델, ChatGPT 같은 모델) 열풍 이전에도 AI 붐이 있었다. 바로 자율주행차다.

2017년, 여러 기업들은 "완전한 자율주행(FSD, Fully Self-Driving)" 을 곧 실현할 것이라고 장담했다.

• 수십억 달러가 투자되었고,
• 수백만 마일이 자율주행으로 달려졌으며,
• 많은 기업들이 탄생하고, 사라졌다.

그러나, 2025년인 지금도 완벽한 자율주행차는 없다.

• 테슬라는 여전히 "완전 자율주행"을 판매하지만, 실제로는 운전자 개입이 필요하다.
• Waymo는 특정 지역에서는 거의 완전 자율주행을 하지만, 여전히 예외 상황에서는 인간 개입이 필요하다.

과거에는 "언제 완전한 자율주행이 가능할까?" 가 화두였지만, 지금은 "한 번의 인간 개입 없이 몇 마일을 주행할 수 있는가?" 가 더 현실적인 질문이 되었다.

언제 완전한 AI가 등장할까? 를 논하기보다는, AI가 얼마나 인간의 개입 없이 일을 수행할 수 있는가? 를 측정하는 것이 더 유용하다는 의미다.

---

언어 모델의 발전, 그리고 Yann Lecun의 오판

AI 연구의 거장 중 한 명인 Yann Lecun(얀 르쿤, Meta의 수석 AI 과학자) 은 한때 다음과 같은 주장을 펼쳤다.

"언어 모델은 토큰(단어)을 하나씩 예측하면서 작동하는데, 이 과정에서 실수가 점점 누적될 것이다.
결국 AI는 긴 문장을 생성할수록 점점 더 많은 오류를 범할 것이므로, 인간 수준의 지능에 도달하는 것은 불가능하다!"

그의 이론에 따르면, 언어 모델은 "긴 문장을 생성하면 필연적으로 무너진다."
즉, AI가 자기 생각을 길게 이어가면 점점 더 엉뚱한 말을 하게 된다는 것이다.

그러나 최근의 연구는 이를 정면으로 반박했다.

• OpenAI의 최신 모델(O1, O3)과 DeepSeek R1은 오히려 문장이 길어질수록 정확도가 높아지는 현상을 보인다!
•  AI는 실수를 하더라도 "스스로 정정" 하면서 더 나은 답을 도출할 수 있다.

이러한 결과는 "AI는 길게 생각하면 망가진다" 라는 기존의 통념을 깨뜨리는 중요한 발견이다.

---

 AGI보다는 "인간 개입 대 AI 작업량" 을 보자

Yann Lecun의 말이 완전히 틀렸다고는 할 수 없다.

• 현재 AI는 완전히 자율적으로 영원히 작동할 수 없다.
• AI는 결국 어느 지점에서 사람의 개입이 필요하다.

즉, 우리는 완전 자율 AI(FAA, Fully Autonomous Agent) 를 기다리기보다, 현실적으로 "AI가 인간의 도움 없이 할 수 있는 일의 양을 점점 늘리는 것" 에 집중해야 한다.

언어 모델도 마찬가지다.

• 우리가 한 번의 입력(prompt)으로 얼마나 많은 유용한 작업을 얻어낼 수 있는가?
• AI가 얼마나 오랫동안 인간의 개입 없이 올바른 답을 생성할 수 있는가?

이러한 질문이 AGI 타임라인 논쟁보다 훨씬 실용적인 논의가 될 것이다.

---

결론: 완벽한 AI를 기다리지 말고, 현재 발전을 활용하라!

AI가 "완전한 자율성" 을 얻을지, 아니면 영원히 "인간의 개입" 이 필요할지는 아직 알 수 없다.
하지만 확실한 것은, AI는 점점 더 많은 일을 인간 없이 해낼 수 있도록 발전하고 있다.

🔥 완벽한 AGI를 기다리기보다, 지금 당장 AI의 활용도를 극대화하는 것이 더 현실적인 선택이다!
🚀 AI의 목표는 인간을 대체하는 것이 아니라, 인간의 능력을 극대화하는 것이다.

---

 

출처: https://substack.com/home/post/p-157633768

Please Stop Talking About AGI