소식

Aug 22, 2023

힌튼 대 머독: 두 AI의 이야기

지난 6월 말 토론토에서 열린 Collision 2023에서는 인공지능(AI), 좀 더 구체적으로 ChatGPT 챗봇에 대한 논의가 많았으나 현 상황을 제대로 보여주는 내용은 없었습니다.

6월 말 토론토에서 열린 Collision 2023에서는 인공지능(AI), 특히 ChatGPT 챗봇에 대해 많은 논의가 있었지만 Colin Murdoch와 Geoffrey Hinton 박사가 별도의 기조연설을 하는 것보다 현재 상황을 더 잘 보여주는 것은 없었습니다.

구글이 지난 4월 딥마인드와 조직의 브레인 팀이 힘을 합쳐 출범한 조직인 구글 딥마인드(Google DeepMind)의 최고 비즈니스 책임자 머독(Murdoch)은 지난 6개월 동안 세계는 AI와 관련하여 "유레카 순간"을 겪었다고 말했습니다.

“모르시는 분들을 위해 말씀드리자면, 우리의 사명은 과학을 발전시키고 인류에게 혜택을 주는 것입니다.”라고 그는 말했습니다. “그리고 우리가 세계의 가장 큰 과제 중 일부를 생각해 보면 기후 변화가 바로 거기에 있습니다. 이는 전 세계적으로 큰 도전입니다. 그리고 우리는 이 문제를 해결하기 위해 인류의 창의성과 전문성을 최대한 활용해야 하며, AI가 정말 중요한 역할을 할 수 있다고 믿습니다.”

Murdoch는 Google DeepMind 연구원들이 AI를 사용하여 "날씨를 보다 정확하고 시기적절하게 예측하여 전 세계 기업과 커뮤니티가 더욱 극단적인 기상 조건과 이로 인해 발생할 수 있는 파괴적인 영향에 더 잘 대응할 수 있도록 돕고 있습니다"라고 덧붙였습니다.

기후 변화에 맞서기 위해 AI 사용이라는 제목의 회사 블로그에 따르면, “AI 자체를 포함한 오늘날의 컴퓨팅 인프라는 에너지 집약적입니다. 이러한 문제 중 일부를 해결하는 데 도움을 주기 위해 우리는 산업용 냉각 최적화 및 보다 효율적인 컴퓨터 시스템을 포함하여 기존 시스템을 향상할 수 있는 AI를 개발해 왔습니다.

“우리의 에너지 그리드는 아직 청정 에너지로 운영되지 않기 때문에 재생 에너지로 전환하는 동안 자원을 최대한 효율적으로 사용하는 것이 중요합니다. 재생 가능 에너지원으로의 글로벌 전환을 가속화하면 탄소 배출량도 크게 줄일 수 있습니다.”

머독은 기조연설에서 “앞으로 더 큰 돌파구가 있을 것이며 그 영향력이 엄청날 것이라는 점을 알고 있다. 하지만 안전하고 윤리적이며 포용적인 방식으로 이를 수행하고 모든 사람을 위한 긍정적인 미래를 구축하는 것이 정말 중요합니다.”

한편, Enercare 센터의 센터 스테이지에서 열린 Q&A 세션에서 많은 청중 앞에서 Atlantic의 CEO인 Nick Thompson과 이야기를 나눈 Hinton은 훨씬 덜 긍정적이었습니다.

“강조하자면, 우리는 엄청난 불확실성의 시대에 들어서고 있으며, 무슨 일이 일어날지 아무도 모릅니다.”라고 그는 말했습니다. “그리고 내가 존경하는 의견을 가진 사람들은 나와 매우 다른 믿음을 가지고 있습니다.

“Yann LeCun은 모든 것이 잘 될 것이라고 생각합니다. 그들(AI 챗봇)은 단지 우리를 도울 것이며, 모든 것이 훌륭해질 것입니다. 그러나 나는 그들이 우리보다 더 똑똑해지면 그럴 가능성이 매우 높고 그들 자신의 목표가 있을 경우 통제권을 장악하려는 목표를 발전시킬 수도 있다는 가능성을 진지하게 받아들여야 한다고 생각합니다. 만약 그렇게 한다면 우리는 곤경에 빠지게 됩니다.”

2018년 몬트리올에 거주하는 요슈아 벤지오(Yoshua Bengio), 르쿤(LeCun)과 함께 모두가 탐내는 튜링상(Turing Award)을 수상한 뒤 'AI의 대부'로 알려져 있으며 AI에 대한 우려로 구글 직위를 사임한 힌튼(Hinton)은 톰슨(Thompson)으로부터 다음과 같은 질문을 받았습니다. AI 챗봇이 좋은 목적을 위해 좋은 인간에 의해 만들어지고, 좋은 책과 좋은 텍스트로 훈련을 받았다면, 미래에는 좋은 쪽으로 편견을 갖게 될 것입니다. 그걸 믿나요, 안 믿나요?”

Hinton은 “좋은 사람들이 훈련한 AI는 좋은 쪽으로 편견을 가질 것이고, 푸틴이나 그런 사람과 같은 나쁜 사람들이 훈련한 AI는 나쁜 쪽으로 편견을 가질 것입니다. 우리는 그들이 전투 로봇을 만들 것이라는 것을 알고 있습니다. 그들은 다양한 국방 부서에서 그 일을 하느라 바쁩니다. 그들은 반드시 선할 필요는 없습니다. 왜냐하면 그들의 주요 목적은 사람을 죽이는 것이기 때문입니다.

“AI가 초지능이 아니더라도 국방부가 이를 전투 로봇 제작에 사용한다면 매우 불쾌하고 무서운 일이 될 것입니다. 그리고 그것은 초지능이 아니더라도, 그리고 자신의 의도가 없더라도 푸틴이 시키는 대로만 할 것입니다. 예를 들어, 부유한 국가가 가난한 국가를 침략하는 것이 훨씬 쉬워질 것입니다.