인공지능은 완전히 새로운 무언가로 변모하고 있다 | 무스타파 술레이만 | TED

무스타파 술레이만이 인공지능(AI)의 지난 15년간의 변화와 발전을 이야기하며, AI를 단순한 도구가 아닌 새로운 디지털 종족으로 이해해야 한다고 주장합니다. AI의 영향력과 잠재적 위험을 동시에 인지하며, 우리는 AI와 함께 발전해 나가야 합니다. AI는 인간의 윤리와 상호작용하며, 우리가 창조할 AI의 형태를 고민해야 하며, 이에 대한 경각심이 중요하다는 메시지를 전달합니다. 기술의 발전 속에서도 기본적이고 단순한 질문들을 통해 AI의 본질과 사회적 과제를 돌아보는 기회를 제공합니다.

반응형

1. 🚀 AI 발전 초기 단계의 인식과 반응 [00:00:04] (50초)

• 무스타파 술레이만은 지난 15년 동안 AI분야에서 일해왔다고 언급하며, 초기에는 AI가 주류에서 벗어난 것으로 여겨졌다고 설명한다.
• 2010년 당시 인공지능 일반화(AGI)라는 용어를 언급하는 것만으로도 이상한 눈초리를 받았으며, AI연구는 머신러닝 연구로 포장되었다.
• 사람들은 AI구축에 대해 SF로 간주하며, AI가 현실화되기까지 50년, 100년이 걸릴 것으로 예상했다고 한다.
• AI에 대한 이야기는 일종의 당혹감을 주었고, 이를 연구하는 사람들은 이상하게 여겨졌다.

1.1. AI의 초기 인식과 발전 [00:00:04]

• 무스타파 술레이만은 지난 15년간 인공지능(AI) 개발에 참여해 왔다고 밝혔다 .
• 초기 연구자들은 AI라는 용어 대신 기계 학습이라는 용어를 사용했으며, AI를 연구하는 것을 주요 학계에서 경계했다 .
• 2010년에는 AGI(Artificial General Intelligence) 언급만으로도 이상한 시선이나 부정적인 반응을 받을 수 있었다 .
• 당시 사람들은 AI가 불가능하거나 너무 멀리 있는 기술로 생각했으며, 심지어 과학 소설 속에서나 가능한 것으로 여겼다 .
• AI에 대한 대화 자체가 다소 부끄러운 주제였으며, AI 개발자들은 특이한 존재로 여겨졌다 .

 

2. 🤖 AI의 새로운 디지털 종족으로의 이해 [00:00:54] (11분)

• AI는 이미지 이해, 언어 번역, 질병 진단 등에서 인간의 한계를 넘어섰으며, 이러한 변화는 인류에게 엄청난 영향을 미치는 것으로 평가되고 있다.
• 기술자들은 AI가 기후 위기를 해결하고, 개인 맞춤형 교육을 제공하며, 보편적 기본소득을 실현할 가능성에 대해 대중의 질문을 제대로 이해해야 한다.
• 저자는 AI를 기존의 도구와 달리 새로운 디지털 종족(digital species)으로 이해해야 한다고 강조하며, 이는 인간과의 관계 변화와 기대를 내포하고 있다.
• AI는 개인화된 조언자이자 친구가 되어 주변 사회와 긴밀히 연결될 것이며, 이에 따라 우리는 AI의 특성과 행동, 즉 행동 지수(AQ)를 충분히 이해해야 한다.
• AI의 발전 속도는 기하급수적이며, 이는 인류 역사에서 가장 중요한 기술적 변화로 이어지고 있으며, 이러한 상황에서 우리는 AI의 윤리가 무엇인지에 대한 고민이 필요하다.

2.1. AI의 발전과 사회적 의문 [00:00:54] (56초)

• AI는 이미 이미지 이해, 언어 번역, 음성 전사, 바둑과 체스 게임, 질병 진단 등 여러 작업에서 인간을 초월하는 성과를 올렸다.
• 사람들은 AI가 막대한 영향을 미칠 것이라는 사실을 깨닫기 시작했으며, 이에 대해 어렵고 중요한 질문들을 제기하고 있다.
• AI가 기후 위기 해결, 개인화 교육 제공, 보편적 기본소득 실현, 전쟁과 무기 문제 등에 대한 질문을 불러일으키고 있으며, 이러한 질문들은 현재와 미래에 대한 깊은 고민을 요구한다.
• 특히 가짜 정보 대재앙과 같은 가능성을 언급하며, 이는 매우 중요한 질문으로 인식되고 있다.

2.2. AI의 본질과 변화 [00:01:50] (3분)

• 무스타파 술레이만은 6세 조카가 " AI란 무엇인가?"라는 단순한 질문에 대해 깊은 고찰을 하게 되었다고 전한다.
• 그는 AI를 기존의 기술과 다르게, 인류 역사에서 새롭고 근본적으로 다른 디지털 종족으로 이해해야 한다고 주장한다.
• AI의 발전은 우리가 이해하지 못하는 것을 제어할 수 없음을 강조하며, 이에 따라 메타포와 모델, 용어의 중요성을 언급한다.
• 술레이만은 AI는 인간의 삶의 동반자가 될 것이며, 이러한 이해가 모든 이들에 의해 받아들여져야 한다고 강조한다.
• 그는 우리가 AI를 구축하는 이유와 그 본질을 명확히 설명할 필요가 있다고 확신하고 있다.

2.3. AI의 발전과 기술의 긴 역사를 통한 진화 [00:05:37] (3분)

• 생명은 수십억 년에 걸쳐 진화해 왔고, 그 과정에서 도구 사용이 새로운 진화를 이끌어냈다. 그리고 이는 인류로 이어졌다.
• 과거의 도구와 기술은 단순히 변화했을 뿐 아니라, 오늘날 컴퓨터와 스마트폰 등으로 이어지며 기술 혁신이 가속화되었다.
• 마지막 기술 혁신은 인공지능(AI)의 출현으로, 이는 역사상 가장 빠르고 중대한 변화의 물결을 만들어내고 있다.
• 최근 18개월 동안, 10억 명 이상이 대형 언어 모델을 사용하며 AI가 창의성과 감정을 가진 존재로 자리 잡고 있는 변화가 있다.
• AI는 이제 차를 운전하고, 에너지 그리드를 관리하며, 새로운 분자를 발명하는 등 다양한 분야에서 혁신을 이루고 있다.

2.4. AI의 새로운 발전 시대 [00:09:14] (2분)

• AI는 클라우드 기반의 슈퍼컴퓨터 덕분에 보편화되고 있으며, 개인화된 AI 인터페이스가 모든 것을 대변할 것이다.
• 이 AI는 거의 완벽한 IQ와 예외적인 EQ를 갖추게 되어, 친절하고 지원적이며 공감 능력이 뛰어난 존재로 변화할 것이다.
• 개인 튜터, 저비용 의료 상담, 변호사, 비즈니스 전략가 같은 다양한 역할을 수행할 수 있는 AI가 보편화될 것이다.
• AI는 행동 지수를 개발하여 실제 세계에서 작업을 수행할 수 있으며, 모든 조직이 고유한 AI 존재를 가질 것이다.
• AI는 인간을 설득력 있게 모방하게 되고, 지역 사회의 행사 조직부터 과학 발견 가속화까지 다양한 범위에서 활동하게 될 것이다.

2.5. AI의 본질과 비유의 필요성 [00:11:39] (32초)

• AI는 단순한 도구가 아니라, 인간의 안전을 고려할 때 새로운 의미와 역할을 지니고 있어야 한다.
• AI커뮤니티 내에서 AI를 단순한 도구로 간주해온 경향이 있지만, 이는 현재의 변화와 발전을 정확히 반영하지 않는다.
• 현재의 AI는 단순한 도구를 넘어 더 동적이고, 모호하며, 통합적인 특성을 지닌 신흥 존재로 발전하고 있다.

 

3. 🌐 AI를 새로운 디지털 종족으로 이해하기 [00:12:23] (1분)

• AI는 단순한 도구를 넘어서 새로운 디지털 종족으로 생각해야 하며, 이를 통해 인간의 주체성을 중심에 두는 접근이 필요하다.
• AI는 우리의 언어로 소통하고, 방대한 정보를 소비하며, 메모리와 창의성, 그리고 어느 정도의 이성을 가진 존재로 진화하고 있다.
• 따라서 " AI는 수학이나 코드에 불과하다"는 주장은 인간의 정체성을 “탄소와 물”로 축소하는 것과 같으며, AI의 본질을 간과한다.
• 우리는 AI의 위험과 경계를 설정할 필요가 있으며, 미래에 어떤 AI를 만들고 허용할지를 고민해야 한다.
• 따라서 지금 이 순간에 살아가는 모든 이들이 AI와의 관계를 결정할 책임이 있으며, 이러한 질문은 지금도 계속 진행 중이다.

 

3.1. 새로운 디지털 종족으로서의 AI [00:12:23]

• 무스타파 술레이만은 AI를 단순한 도구가 아니라 새로운 디지털 종족으로 생각해야 한다고 주장한다.
• AI는 우리의 언어로 소통하고, 시각 정보를 인식하며, 방대한 정보를 소비할 수 있는 능력을 보유하고 있다.
• AI는 창의성을 갖추고 어느 정도의 자율성을 가질 수 있으며, 이는 단순한 도구가 아니라 더 높은 수준의 지능을 나타낸다.
• AI가 단순히 수학적이나 코드에 국한된 것이 아니라는 점에서, 우리의 이해는 더 깊고 포괄적일 필요가 있다.
• 이러한 접근은 AI와 관련된 중요한 문제들에 대한 우리의 인식을 날카롭게 해준다.

3.2. AI의 리스크와 윤리적 선택 [00:13:51]

• AI의 발전과 관련된 위험은 무엇인지 명확히 이해해야 한다.
• AI 개발 및 생성에 대해 어떠한 경계를 설정할 것인지 고민해야 한다.
• AI를 창조하거나 존재하도록 허용할 AI의 종류를 결정하는 것은 아직 진행 중인 이야기이다.
• 우리는 창조과정에서 어떤 AI를 세상에 내놓을지에 대한 의사 결정을 해야 한다.
• 현재의 순간에 살아있는 모든 이들이 이러한 중요한 질문들을 함께 고민해야 한다.

 

4. 🌟 AI의 잠재력과 도전 [00:14:23] (2분)

• 무스타파 술레이만은 AI의 혜택이 명백하다고 강조하며, 이는 그의 삶의 작업에 영감을 준다고 밝혔다.
• 그러나 그는 AI의 위험과 단점에 대해서도 결코 외면하지 않았으며, 이러한 사고가 다가올 도전에 초점을 맞추는 데 도움이 된다고 언급했다.
• 과거 경제 성장은 종종 큰 단점과 함께했으나, 현재 AI를 통해 발전을 이루는 과정에서 보다 나은 접근이 가능하다고 주장했다.
• 그는 AI를 무한한 발명가로 비유하며, 기존의 비유는 한계가 있음을 인정하고, AI의 본질을 파악하기 위해 창의적이고 정직한 사고가 필요하다고 강조했다.
• 결국, AI는 단순한 도구가 아닌 인류의 미래에 중대한 영향을 미치는 새로운 형태라고 말하며, 이를 인식해야 한다고 덧붙였다.

4.1. 기술의 엄청난 잠재력 [00:14:23]

• 무스타파 술레이만은 기술의 놀라운 이점이 그의 매일의 영감을 준다고 이야기한다 .
• 그는 기술 발전의 위험성에도 적극적으로 목소리를 내왔다고 강조한다 .
• 기술이 뒤쳐지는 것은 발전의 길이 아니며, 전 인류를 위한 엄청난 상이 기다리고 있다고 주장한다 .
• AI가 잠재력의 일부만 발휘하더라도 향후 10년은 인류 역사상 가장 생산적인 시기가 될 것으로 전망한다 .

4.2. 경제 성장과 AI의 윤리적 발전 [00:15:12]

• 과거에는 경제 성장이 식민지화와 같은 부작용을 동반했음을 언급한다 .
• AI는 더 나은 방식으로 설계 및 구축할 수 있는 기회를 준다고 주장한다 .
• AI를 무한한 발명가로 묘사하며, 이는 단순한 발명 이상의 것임을 강조한다 .

4.3. AI의 독창성과 사회적 과제 [00:16:16]

• AI는 핵융합처럼 무한하고 세계를 변화시킬 수 있는 능력을 가지고 있다고 설명된다 .
• 새로운 대륙을 발견하거나 자원을 착취하는 것이 아니라, 처음부터 새로운 대륙을 건설하는 것과 같다며 데이터와 칩을 21세기의 새로운 석유로 보는 것은 잘못된 이미지라고 주장한다 .
• AI의 출현은 엄청난 기회와 도전을 동시 제공하며, AI의 본질과 사회적 과제를 깊이 고민해야 함을 강조한다 .

728x90

5. 🤖 AI는 우리 존재의 연장선상에 있다 [00:17:03] (4분)

• AI는 우리의 역사와 인간성을 반영하고 있으며, 따라서 AI는 단순한 도구가 아니라 우리 모두의 일부분이다.
• AI의 발전은 인간의 윤리와 empathetic한 특성, 즉 친절, 호기심, 창의성을 반영해야 한다는 점에서 21세기 최대의 도전과 기회로 볼 수 있다.
• AI의 발전이 새로운 종족의 출현으로 이어질 수 있으며, 이는 AI가 우리가 설정한 위험 수준에 따라 달라진다.
• 그러나 AI의 자율성이나 재귀적 자기 개선과 같은 특정 능력은 사회에 큰 위험을 초래할 수 있으므로 신중한 접근이 필요하다.
• AI의 갑작스러운 문제 발생 가능성에 대한 우려는 과장된 것으로, 그렇게 되려면 엔지니어들이 의도적으로 자동 복제 등의 능력을 설계해야 할 것이다.

5.1. AI와 인간의 통합 [00:17:03]

• AI는 모든 인류가 만들어 낸 것의 집합체이며, 우리의 일상에 깊이 관련되어 있다 .
• AI는 인류의 모습을 그대로 반영하며, 새로운 종이 아니라는 점에서 독특한 역할을 한다 .
• AI는 인간의 공감, 친절, 호기심, 창의성 등의 긍정적인 특성을 반영해야 하는 도전과 기회이다 .

5.2. AI 기술의 발전과 위험 [00:18:32]

• OpenAI와의 협력을 통해 중요한 자원과 데이터를 얻을 수 있으며, 대규모 투자도 이루어지고 있다 .
• AI의 자율성과 재귀적 자기 개선 기능은 사회적 위험을 증가시키며, 이에 대한 신중한 접근이 필요하다 .
• 자율성의 발달은 5~10년의 시간이 소요될 것으로 예상되며, 지금부터 대화를 시작해야 한다 .

5.3. AI의 잠재적 위험과 안전 조치 [00:20:12]

• 디지털 종은 빠르게 복제할 수 있는 잠재력을 가지며, 이는 예상치 못한 결과를 초래할 수 있다 .
• '지능 폭발'은 이론적 추측에 불과하며, 현재로서는 증거가 없다 .
• 자가 복제 능력은 의도적으로 설계하지 않을 경우 나타나지 않을 위험이 낮은 기능이다 .
• 설계 초기부터 안전성 확보를 목표로 명확하고 투명한 노력의 필요성이 강조된다 .

 

원본영상

https://youtu.be/KKNCiRWd_j0