국내외 과학기술 정책에 대한 간략한 정보
단신동향
해외단신
인간 팀 vs. AI : MIT 전문가들이 인공 일반지능의 위험에 대해 경고 원문보기 1
- 국가 미국
- 생성기관 넥스트고브(Nextgov)
- 주제분류 핵심R&D분야
- 원문발표일 2024-11-27
- 등록일 2024-12-06
- 권호 277
○ 거대 테크기업들이 인간지능과 경쟁하거나 이를 능가하는 AI를 만들기 위해 경쟁하고 있는 상황에서, 한 전문가는 이것이 인류를 뒤처지게 할 수 있다고 경고함
- Web Summit에서 MIT 교수 Max Tegmark는 AGI* 개발의 위험성을 경고하며, 툴 AI를 이용한 사회적 문제 해결을 강조하며, AGI는 통제 불능의 위험이 있어 인류의 미래를 위협할 수 있다고 주장
* Artificial general intelligence (AGI), 인공 일반 지능(AGI)은 인간과 유사한 지능과 스스로 학습할 수 있는 능력을 갖춘 소프트웨어를 만들려는 이론적 AI 연구 분야
- 그는 AGI가 인간을 대체하고, 자율적으로 진화할 수 있는 위험성을 제기하며, "툴 AI"를 통해 구체적인 사회적 문제를 해결할 수 있는 가능성을 강조
○ 2023년 TIME 매거진이 선정한 100명의 가장 영향력있는 인물로 선정된 Tegmark는 도구적 AI(tool AI)가 질병, 기후변화 등 특정문제를 해결하는 강력한 기술이라고 설명함
- 반대로 AGI는 통제할 수 없고 자기복제가 가능하며 인간을 대체할 수 있는 '디지털 종'으로 진화할 수 있음
○ AGI가 위협이 되는 이유에 대해 Tegmark는 인간복제나 위험한 생명공학과 같은 규제되지 않은 바이오테크에 대한 규제되지 않는 AGI의 위험성을 비교하고 있음
- Tegmark는 AI의 역량이 얼마나 빠르게 발전했는지 지적하면서, AGI의 타임라인에 대한 이전의 예측은 무너지고 있음을 지적하고 있음
- 낙관론자들은 AGI가 통제가능하다고 주장하지만 Tegmark는 이를 지지할 근거는 없다고 언급
○ Tegmark는 AGI 개발에 대한 경쟁은 "자살 경주"와 같다고 비판하며, 국제적으로 규제 기준을 세우고 이를 지켜야 한다고 주장
- Web Summit에서 MIT 교수 Max Tegmark는 AGI* 개발의 위험성을 경고하며, 툴 AI를 이용한 사회적 문제 해결을 강조하며, AGI는 통제 불능의 위험이 있어 인류의 미래를 위협할 수 있다고 주장
* Artificial general intelligence (AGI), 인공 일반 지능(AGI)은 인간과 유사한 지능과 스스로 학습할 수 있는 능력을 갖춘 소프트웨어를 만들려는 이론적 AI 연구 분야
- 그는 AGI가 인간을 대체하고, 자율적으로 진화할 수 있는 위험성을 제기하며, "툴 AI"를 통해 구체적인 사회적 문제를 해결할 수 있는 가능성을 강조
○ 2023년 TIME 매거진이 선정한 100명의 가장 영향력있는 인물로 선정된 Tegmark는 도구적 AI(tool AI)가 질병, 기후변화 등 특정문제를 해결하는 강력한 기술이라고 설명함
- 반대로 AGI는 통제할 수 없고 자기복제가 가능하며 인간을 대체할 수 있는 '디지털 종'으로 진화할 수 있음
○ AGI가 위협이 되는 이유에 대해 Tegmark는 인간복제나 위험한 생명공학과 같은 규제되지 않은 바이오테크에 대한 규제되지 않는 AGI의 위험성을 비교하고 있음
- Tegmark는 AI의 역량이 얼마나 빠르게 발전했는지 지적하면서, AGI의 타임라인에 대한 이전의 예측은 무너지고 있음을 지적하고 있음
- 낙관론자들은 AGI가 통제가능하다고 주장하지만 Tegmark는 이를 지지할 근거는 없다고 언급
○ Tegmark는 AGI 개발에 대한 경쟁은 "자살 경주"와 같다고 비판하며, 국제적으로 규제 기준을 세우고 이를 지켜야 한다고 주장
