박태웅 AI 강의 1부

📌 챗GPT가 두 달 만에 1억 명의 사용자를 모으며 인공지능 서비스에 대한 전 인류의 열광을 이끌어낸 이유는?

챗GPT는 인간의 정신을 기계가 대신하게 하자는 인공지능의 목표를 달성하며, 과거 인공지능과 달리 모든 것을 기계에게 맡겨 잠재된 패턴을 찾아내는 방식으로 작동하기 때문입니다

💡 현대 인공지능의 가장 큰 특징과 위험성은?

• 가장 큰 특징은 '설명할 수 없다'는 것으로, 왜 잘 작동하는지 알 수 없어 언제 갑자기 오작동할지 예측할 수 없습니다.
• 위험성은 '할루시네이션(환각)'으로, 학습한 내용을 바탕으로 그럴듯한 거짓말을 만들어낼 수 있습니다.

이 강의는 인공지능의 발전과 그로 인한 사회적 변화에 대한 심도 깊은 논의를 다루고 있습니다. 특히, 채치피티와 같은 대화형 인공지능의 등장으로 인해 인류가 경험하게 될 기술적 혁신과 그에 따른 윤리적 문제를 강조하며, 인공지능이 인간의 정신을 대신하게 되는 시대에 대한 경각심을 일깨우고 있습니다. 이러한 변화는 다양한 분야에서 일자리의 변화를 초래할 것이며, 인공지능의 설명 가능성 부족이 가져올 위험성에 대해서도 경고하고 있습니다.

반응형

1. 📘 박태웅 AI 강의의 시작과 설명 방식

• 강의가 시작된 배경은 김어준 총수 덕분이라고 한다.
• 강의 준비를 위해 열심히 공부했으며, 이를 바탕으로 책까지 출간하게 되었다고 한다.
• 박태웅의 강의를 유튜브 등에서 접한 사람들은 익숙한 내용을 다시 들을 수 있다.
• 최상의 설명 방식을 고민한 결과, 기존의 방식을 유지하는 것이 최선이었다고 본다.
• 강의에서 반복되는 부분에 대해 용서를 구하며, 복습의 기회로 삼아 줄 것을 요청한다.

 

2. 🚀 인공지능 시대의 채치피티와 GPU의 중요성

• 채치피티는 출시 두 달 만에 1억 명의 사용자를 모았으며, 이는 인스타그램보다 빠른 속도로 기록된 것이다 .
• 타임지는 현재의 AI 붐을 "AI Arms Race"로 표현하며, 이는 인공지능 기술의 경쟁이 모든 것을 변화시키고 있음을 시사한다 .
• GPU는 전 세계 시장의 90%를 차지하는 엔비디아에 의해 독점되고 있으며, 인공지능의 대규모 계산에 필수적인 역할을 한다 .
• GPU는 병렬 연산에 특화되어 있어, 인공지능의 복잡한 계산을 신속하게 처리할 수 있는 능력을 갖추고 있다 .
• 채치피티는 A100 GPU를 만 대 사용하여 100일 동안 학습했으며, 이는 어마어마한 연산량을 소모한 결과이다 .

 

3. 🤖 인공지능의 발전과 경사하강법

• 인공지능의 대부분은 경사하강법을 사용하여 최적의 결과를 찾는 방식으로 작동하며, 이는 반복적인 계산을 통해 가장 낮은 값을 찾아가는 과정이다 .
• 초기 인공지능 시스템은 고양이와 개의 사진을 구분하기 위해 전문가 시스템을 사용했으나, 예외적인 경우가 많아 성능이 저하되었고, 이로 인해 인공지능의 발전이 정체되기도 했다 .
• 2000년대에 들어서면서 GPU의 발전으로 대량의 계산이 가능해졌고, 이는 딥러닝 알고리즘과 결합하여 현대 인공지능의 패러다임을 형성하게 되었다 .
• 현대 인공지능은 수많은 사진을 통해 패턴을 스스로 찾아내는 방식으로 발전하였으며, 이는 고양이와 개를 사람보다 더 잘 구분할 수 있는 수준에 이르렀다 .
• 그러나 현대 인공지능의 가장 큰 문제는 그 결과를 설명할 수 없다는 점으로, 이는 설명 가능한 AI(XAI)의 필요성을 강조하게 된다 .

3.1. 인공지능의 기본 원리: 경사 하강법

• 현재 인공지능의 대부분은 경사 하강법을 사용하여 작동하고 있다.
• 경사 하강법은 주어진 지점에서 주변을 살펴보고, 더 낮은 위치로 이동하는 과정을 반복하여 최적의 해를 찾는 방법이다.
• 이 과정은 반복적으로 이루어지며, 인공지능이 최적의 결과를 도출하기 위해 필요한 계산을 수행한다.
• 경사 하강법은 비록 단순한 원리이지만, 초당 312조 번의 계산을 수행할 수 있어 실질적인 결과를 만들어낸다.

3.2. 인공지능의 발전과 초기 한계

• 인공지능은 인간의 정신을 기계가 대신하게 하려는 기술로, 초기에는 고양이와 개를 구분하는 간단한 작업부터 시작되었다.
• 초기 인공지능 시스템은 고양이의 특징을 수작업으로 입력하여 사진을 식별했으나, 예외적인 경우가 많아 성능이 한계에 부딪혔다.
• 2000년대에 들어서면서 GPU의 발전으로 대량의 계산이 가능해졌고, 이는 인공지능의 새로운 패러다임을 여는 계기가 되었다.
• 현재의 인공지능은 수많은 사진을 통해 스스로 특징을 찾아내고, 이를 기반으로 가중치를 조정하여 고양이를 인식하는 방식으로 발전하였다.
• 이러한 방식은 과거의 수작업 입력 방식과는 달리, 기계가 스스로 학습하고 최적의 조합을 찾아내는 능력을 갖추게 되었다.

3.3. 현대 인공지능의 설명 가능성 문제

• 현대 인공지능은 개와 고양이를 사람보다 더 잘 구별할 수 있지만, 그 이유를 설명할 수 없는 한계를 가지고 있다.
• 설명 가능한 인공지능(XAI)의 필요성이 강조되며, 이는 인공지능의 작동 원리를 이해하지 못하면 언제 잘못 작동할지 예측할 수 없음을 의미한다.
• 인공지능은 잠재된 패턴을 찾아내는 작업을 수행하며, 이는 수천만 차원에 걸쳐 연속적인 다양체를 그리는 과정으로 설명된다.
• 인공지능이 잘 작동하는 분야는 명확한 패턴이 존재하는 곳으로, 프로그래밍, 법률, 저널리즘 등에서 그 효율성을 발휘한다.
• 특히, GPT-4와 같은 모델은 명확한 패턴 덕분에 법률 시험에서 상위 10%에 드는 성과를 낼 수 있다.

3.4. AI의 발전과 사회적 변화

• 인공지능의 발전으로 인해 많은 일자리가 사라질 것으로 예상되며, 내년 말까지 큰 변화가 불가피하다.
• ChatGPT와 같은 대화형 AI는 사람의 언어로 기계와 소통할 수 있는 혁신적인 시스템으로, 이는 인공지능의 새로운 가능성을 열어준다.
• 대화형 AI는 제너러티브 생성 능력을 갖추고 있어, 학습한 내용을 바탕으로 글, 그림, 동영상 등을 생성할 수 있다.
• 모든 거대 언어 모델은 파운데이션 모델로, 이들은 학습 연산량이 특정 기준을 초과할 때 뛰어난 성능을 발휘한다.
• 그러나 AI의 발전은 할루시네이션 문제를 동반하며, 이는 AI가 사실과 다른 정보를 생성할 수 있는 위험성을 내포하고 있다.

3.5. ️ 인공지능의 위험성과 국제 규제 필요성

• 현재의 인공지능은 팬데믹과 같은 위험 요소로 인식되어, 인류를 절멸시킬 수 있는 존재로 다뤄져야 한다는 성명이 발표되었다.
• 이 성명은 단순한 선언에 그치지 않고, 인공지능을 규율하기 위한 국제 기구의 필요성을 논의하며, 여러 대학과 협력하여 공동 저서로 논문을 발표하기도 했다.
• 인공지능이 가장 큰 효과를 볼 수 있는 지역과 나라에서 인프라, 자원, 교육이 부족한 상황이 존재하여, 이러한 문제를 해결하기 위한 진정성이 필요하다.
• 또한, 인공지능의 발전이 지정학적 이익과 관련되어 있어, 국가 간 서로 다른 입장이 발전을 저해할 가능성이 있다.

 

4. 🌍 인공지능 안전을 위한 국제적 협력 필요성

• 인공지능의 안전성을 확보하기 위해서는 전 세계 과학자들이 함께 토론할 수 있는 장이 필요하다 .
• 이러한 필요성을 바탕으로, 국제 기구를 만들어야 한다는 논문이 발표되었다 .
• 최근 구글, 오픈AI, 페이스북 등 여러 기업이 참여하는 프론티어 AI 포럼이 설립되었으며, 이는 더 큰 인공지능 모델 개발 시 규율을 가지고 비윤리적인 일이 발생하지 않도록 노력하겠다는 의지를 담고 있다 .
• 이러한 움직임은 인공지능이 가지는 위험이 현실적이고 크다는 점을 반영하고 있다 .

728x90

5. ⚠️ 인공지능과 가짜 뉴스의 위험성

• 가짜 뉴스 생성의 용이성: 극단주의자들이 GPT-4와 같은 인공지능을 사용하여 어마어마한 허위 정보를 생성할 수 있으며, 이는 민주주의와 공론을 위협할 수 있다 .
• 대량 생산과 확산: 인공지능을 통해 단시간에 수천 개의 가짜 뉴스를 생성하고, 그 중에서 가장 많이 공유되는 뉴스만을 선택하여 빠르게 확산시킬 수 있다 .
• 사회적 혼란 초래: 가짜 뉴스의 확산으로 인해 사람들은 잘못된 정보에 기반하여 행동하게 되고, 이는 사회적 혼란을 초래할 수 있다 .
• 컨텐츠 팜의 역할: 컨텐츠 팜은 자극적인 내용을 대량으로 생성하여 광고 수익을 추구하며, 이로 인해 진짜 뉴스와 가짜 뉴스가 혼재된 정보 환경이 조성된다 .
• 정치적 영향력: 실제로 가짜 뉴스가 정치적 사건에 영향을 미친 사례가 있으며, 이러한 위험성을 인지하고 경각심을 가져야 한다 .

 
 
원본영상 https://youtu.be/Wb-egpA7AFA