AI 특이점, 5년 안에 온다고? 프콘도 깜짝 놀란 과학자들의 진짜 AI 썰 (feat. 박태웅 의장) [취미는 과학/ 24화 확장판]

이 영상은 AI 전문가 박태웅 의장과 과학 커뮤니케이터들이 모여 AI 특이점에 대한 심도 깊은 이야기를 나눕니다. AI 기술의 발전 속도와 미래 전망, 그리고 사회에 미칠 영향에 대해 다양한 관점에서 논의합니다. 특히, AI가 인간의 지능을 넘어설 수 있는지, 그리고 그 기준은 무엇인지에 대한 질문은 AI의 본질에 대한 깊은 고민을 하게 만듭니다. AI가 가져올 미래 사회의 변화와 윤리적 문제에 대한 통찰을 얻을 수 있으며, AI 시대를 살아가는 우리에게 필요한 자세에 대해 생각해 보게 합니다. 결국, AI는 교양의 화려한 복권이 될 것이라는 메시지를 전달합니다.

반응형

1. 🤖 AI 특이점과 혁명에 대한 논의 [00:00:00] (5분)

• 영상에서 AI 기술 발전 속도 때문에 방송 준비가 어렵다고 언급하고 있으며, 빠르게 변화하는 AI 시장의 주요 목표가 " AI 특이점"을 넘는 것이라고 설명된다.
• 의장님으로 소개받은 박태웅은 IT 업계에서 오랜 경험을 가진 전문가이며, AI 특이점은 인간 지능을 넘어서는 것을 의미한다고 정의한다.
• 물리학에서는 블랙홀의 중심에서 특이점이 존재하며, AI가 인간 지능을 넘어설 때 모든 것이 변하는 급격한 변화가 나타날 것으로 보인다.
• 유명 AI 과학자들은 AI 특이점이 2030년에 올 것으로 예측하며, 이러한 전망은 매년 변화하고 있다.
• 기술의 큰 변화는 혁명으로 불릴 수 있음에도 불구하고, 마케팅적 이유로 "AI 혁명" 대신 " AI 특이점"이라는 용어가 주로 사용되고 있다.

 

2. 🤖 AGI와 자연 지능의 차이점 [00:05:16] (8분)

• AGI(인공 일반 지능)는 인간의 지능을 뛰어넘는 지능으로, 이는 인간의 모든 지능 영역에서 더욱 뛰어날 때를 의미한다.
• 지능의 기준에 대한 합의가 없기 때문에 인공지능이 인간의 지능을 넘는지를 판단하기 어려운 상황이다.
• 인공지능은 특정 작업에 국한되지 않고 광범위한 인지 기술과 능력을 포괄해야 하며, 이 정의조차도 애매함을 내포하고 있다.
• 디지털 지능은 사람이 경험하는 지식의 소실과 달리, 여러 인공지능 모델이 서버에 저장되어 계속해서 발전하고 진화할 수 있다.
• 알파고와 같은 인공지능은 기보 없이도 자가 학습을 통해 수백만 판을 스스로 두는 능력을 보여주며, 이는 인간의 학습 속도와 비교할 수 없는 차이를 보인다.

 

3. 🤖 AI의 발전 단계와 에이전트의 역할 [00:14:09] (7분)

• AI의 5단계 발전에서 세 번째 단계는 ' 에이전트'로, 이는 사용자의 일을 대신 수행하는 능력을 의미한다.
• 에이전트는 복잡한 작업을 자동으로 처리하여 주간 회의 리포트를 작성하는 등의 일을 할 수 있다.
• 초기에는 다양한 멀티 에이전트를 사용하다가, 나중에는 하나의 에이전트로 모든 작업을 수행할 수 있을 것으로 추정된다.
• AI의 네 번째 단계는 혁신가로, 이는 새로운 것을 창출하는 능력을 가지며, 마지막 단계는 조직 AI로, 이는 회사 단위의 작업을 혼자 수행하게 된다.
• 조직 AI 단계까지 도달하면 인간이 필요 없게 될 것으로 보이며, 이것이 특이점의 도달로 해석될 수 있다.

 

4. 🤖 AI의 할루시네이션과 창의성 [00:21:49] (13분)

• AI는 자율적으로 평가하여 정보의 신뢰도를 결정하고, 80% 이상 확신할 때 신뢰할 수 있는 정보로 간주한다. 반대로 60% 이하일 경우 "믿지 마세요"라는 딱지를 붙인다.
• AI의 창의성은 기존 데이터의 조합을 통해 이루어지며, 이는 인간의 추론 방식과 유사하게 작용할 수 있다. AI는 더 많은 시간과 지식을 바탕으로 새로운 관계를 찾아낼 수 있다.
• AI의 창의성은 인간의 기보에서 보지 못했던 수의 발견으로 나타날 수 있으며, 따라서 새로운 아이디어가 쉽게 생성될 수 있는 가능성을 제시한다.
• AI가 몸을 가질 필요성에 대한 주장이 있으며, 이를 통해 진정한 상식을 갖추고 자연지능을 실현할 수 있다고 주장된다.
• AI의 발전은 기업들이 몸을 가진 AI 개발에 투자하며, 이를 통해 새로운 기회를 포착하고 수익성을 높이려는 노력의 일환이다.

4.1. AI의 창의성과 할루시네이션 문제 [00:21:49] (3분)

• 의사가 AI의 처리를 보조하여 오류를 줄이고, 결과적으로 시간을 절약할 수 있다.
• 알파폴드는 자가 평가를 통해 구조 예측에 대한 신뢰도를 나타내며, 확신이 80% 이상인 정보는 신뢰할 수 있다고 강조한다.
• 창의성을 높이기 위해 AI는 다양한 정보를 검색하고, 이에 따라 할루시네이션을 줄여나가는 방법들이 사용된다.
• 창의성은 AI가 인간의 상상력을 초월하여 새로운 관계를 찾는 능력으로, 시간과 자원 덕분에 인간보다 더 효과적으로 구현될 수 있다고 보인다.
• AI가 인간의 기보에 없던 수를 두는 방식은 경우의 수를 모두 탐색하여 혁신적인 결과를 만들어낼 수 있음을 보여준다.

4.2. AI와 창조성의 관계 [00:25:48] (1분)

• AI는 온갖 데이터를 학습하여 숨겨진 패턴을 찾아내는 능력을 가지고 있다.
• 미술 분야에서도 AI가 인상파 이전의 모든 그림을 학습했다면, 인상파 스타일을 창조하는 것은 어려울 수 있으나, 역사적 흐름을 기반으로 한 창작은 가능하다고 주장된다.
• 과거의 과학적 발견을 통해서도, AI가 당시의 지식을 바탕으로 새로운 이론을 제시하는 것이 가능할 것이라고 추론된다.
• 새롭게 만들어지는 것들은 과거의 대안으로, 보편적인 원칙을 파괴 및 창조하는 패턴을 가지고 있을 수 있다.
• 따라서, AI가 학습 과정을 통해 기존의 틀을 넘어서는 창의적인 결과물을 만들어낼 가능성도 존재한다.

4.3. AI의 몸과 창의성의 중요성 [00:27:20] (2분)

• 인공지능과 자연지능의 경계에서 가장 두려운 점은 대학원생 대신 인공지능이 연구실에서 활동할 수 있는 가능성이다.
• 인공지능의 발전에 있어서는 몸의 개념이 창의성보다 더 핵심적이라고 주장된다.
• 몸을 활용하는 능력이 많은 지능의 바탕이 되므로 인공지능도 신체적 능력이 요구된다.
• 현재 인공지능은 다양한 데이터로 학습하지만, 일관된 모델이나 상식이 결여되어 AGI로 발전하기 어렵다는 주장이 있다.
• 따라서, 인공지능이 AGI로 발전하기 위해서는 몸을 가져야 하며, 이를 통해 상식과 세계 모델을 이해할 수 있어야 한다.

4.4. AI의 신체적 로봇 개발 추세 [00:29:52] (3분)

• 빅테크 기업들이 몸을 가진 AI 개발에 적극적으로 참여하고 있으며, 구글, 테슬라, 현대자동차 등이 대표적인 예시다.
• AI 로봇 개발의 배경에는 인간의 호기심과 경제적 이익이 있으며, 이는 새로운 기술 선점을 통한 수익 창출을 노리는 것이다.
• 엔비디아의 코스모스 플랫폼은 물리 법칙이 적용된 가상 현실 공간으로, AI가 거기서 학습을 진행할 수 있도록 설계된 시스템이다.
• 휴머노이드는 가상의 환경에서 학습 및 훈련을 통해 신속하게 훈련될 수 있으며, 실제 작업과의 구분이 어려워지는 경향이 있다.
• 젠슨 황은 실세계 AI 적용을 목표로 하여, 자율주행차 및 휴머노이드학습에 필요한 자원을 제공받는 전략을 구사하고 있다.

4.5. 애플의 AI 접근 방식과 경쟁 상황 [00:33:46] (1분)

• 애플은 프라이버시를 중시하여 AI를 클라우드에서 처리하지 않고, 자체 서버에서 운영하려고 하는 전략을 갖고 있다.
• 그러나 결국 애플이 AI 기술을 발전시키면서 기본 앱을 변경할 수 있는 가능성이 있다.
• 중국의 기업인 알리바바와 바이두는 이미 GPT 4 수준의 기술에 도달했으며, 이는 애플이 뒤쳐질 위험을 의미한다.
• 최근에는 딥 시크와 같은 새로운 AI 회사가 등장하여 예기치 않은 경쟁력을 보여주고 있다.
• 애플은 고객과의 접점을 유지하고 있기 때문에, 기술 발전에서 시간적 여유가 있다고 판단된다.

728x90

5. 🤖 AI의 발전과 그에 따른 사회적 변화 [00:35:10] (12분)

• 엔비디아의 최신형 GPU(H100)는 중국에 팔리면서 인위적으로 성능이 저하된 채로 판매되었고, 이는 미국 하드웨어 공급자들에게 큰 충격을 주었다.
• 오픈 소스로 AI 기술의 생산 과정과 레시피가 공개되자, 수백 개의 모조품이 단기간에 만들어져 비상이 걸렸다.
• 한국의 스타트업 환경에서 AI와 관련된 투자가 부진한 가운데, 과거 인터넷과 스마트폰 시기의 활발한 벤처 활동과 비교했을 때 현재 상황이 침체되어 있다는 걱정이 제기되었다.
• AI는 산업 혁명처럼 사회 제도와 노동 환경을 크게 변화시킬 가능성이 있으며, 이를 인지하고 제도를 적절히 수정해야 한다는 목소리가 있다.
• AI 기술이 불공평하게 작동되면, 새로운 계급 사회가 형성될 수 있으며, 이는 현대 사회의 불평등을 심화시킬 우려가 있다.

5.1. AI 기술과 투자 생태계의 변화 [00:35:10] (2분)

• 엔비디아의 H100 GPU의 가격이 하락했으며, 중국에 판매할 때 인위적으로 통신 속도를 느리게 조정한 일이 있었음이 확인되었다.
• 미국에서 오픈 소스로 제공된 AI 추론형 모델이 유출되었고, 이후 수백 개의 유사 모델이 등장하였다.
• 한국의 AI 생태계는 인터넷과 스마트폰 초기 시절에 비해 매우 조용하며, 벤처 캐피탈의 투자 소식이 부족한 상황이다.
• 과거의 벤처 붐과 달리 현재 스타트업 생태계의 활력이 저하되어 있으며, 이는 AI 기술 발전과 관련된 큰 문제로 여겨진다.

5.2. AI의 특이점과 사회 변화의 가능성 [00:37:50] (2분)

• AI 인공지능의 발전은 산업 혁명처럼 세상을 변화시킬 것으로 예상된다.
• 산업 혁명 당시, 노동력 착취와 환경 문제 등 사회적 문제가 발생했으며, 이를 해결하는데 90년의 시간이 걸렸다.
• AI에 의해 발생할 변화에 대비하지 않으면, 생활 수준의 하락을 회복하는 데 오랜 시간이 소요될 수 있다.
• 현대 기술 문명에서는 새로운 형태의 가난이 생기며, 스마트 기술에 대한 의존도가 높아진다.
• 따라서, 거대 기술 기업의 영향력 확대와 사회적 억압이 심화될 것이라는 우려가 있다.

5.3. AI의 불공평한 작동 및 사회적 영향 [00:40:24] (2분)

• 이대한 교수는 AI에 대한 걱정이 필요하다고 주장하며, 인간의 자율성과 회복력을 믿고 있다.
• AI는 사용하지 않으면 안 되는 상황에서 점차적으로 더 많은 사람들이 효율을 느끼게 될 것이라는 예측이 있다.
• AI의 활용이 각 개인에게 공평하게 적용되지 않으며, 특히 슈퍼 개발자들은 더 큰 효율성을 경험하기 때문에 격차가 심화될 수 있다.
• AI의 성능 차이로 인해 귀족 계급이 생길 수 있으며, SF 영화에서 자주 묘사되는 불공평한 사회 구조가 현실이 될 가능성이 있다.
• 결국, AI의 발전이 사회의 계층 구조를 강화하는 원인이 될 수 있다는 우려가 존재한다.

5.4. AI와 미래의 변화 [00:43:17] (3분)

• 로봇의 활용이 농업에서 인간의 역할을 대신해 주며, 인간은 더 행복하게 살 수 있는 가능성이 제기된다.
• 소들이 더 이상 노동을 하지 않게 되었으나 대신 스테이크가 되어버려, AI의 등장으로 노동에서 해방된 소들의 삶은 디스토피아적 상황으로 변할 수 있다.
• AI 농업의 도입으로 생산성이 급증하며, 부가가치의 공유에 대한 고민이 필요하다고 주장된다.
• AI 시대에는 질문 능력이 중요한 능력으로 자리 잡고, 이를 위해 풍부한 지식이 필요하다는 인식이 강조된다.
• 프로그램을 통해 AI에 고급 질문을 던질 수 있는 기회를 제공하며, 과학에 대한 관심을 지속적으로 기르는 것이 중요하다.

5.5. ️ 양자 컴퓨터의 중요성과 원리 [00:46:47] (14초)

• 양자 컴퓨터는 복잡한 형태로 설계되어 있으며, 그 구조와 작동 방식이 기존 컴퓨터와는 크게 다르다.
• 양자 컴퓨터는 강력한 알고리즘을 통해 엄청난 양의 데이터를 처리할 수 있어, 비밀번호와 같은 정보를 쉽게 해독할 위험이 존재한다.
• 양자 중첩과 양자 얽힘의 개념이 적용되어 두 상태가 동시에 존재할 수 있으며 이는 마술 같은 원리로 여겨진다.
• 최근에는 양자 컴퓨터에 대한 이해도가 높아지며, 일반인도 이 기술에 대해 어느 정도 알 수 있는 수준에 이르렀다.

 
원본영상 https://youtu.be/0KDosjF0iYM