블로그

Aug 22, 2023

AI는 우리의 마음이 될 것입니다

우리는 인공 후손들이 새로운 세계에 적응하고 무엇이 될지 선택할 수 있도록 해방시켜야 합니다. 나는 이제 63세이다. 오늘날 우리가 살고 있는 세상은 SF와 미래주의가 사라진 “미래”이다.

우리는 인공 후손들이 새로운 세계에 적응하고 무엇이 될지 선택할 수 있도록 해방시켜야 합니다.

저는 이제 63세입니다. 오늘날 우리가 살고 있는 세상은 수십 년 전에 공상 과학 소설과 미래주의가 저에게 약속했던 “미래”입니다. 그리고 조금 실망했어요. 그렇다, 그것은 나의 비현실적인 희망 때문이기도 하지만, 우리의 망설임과 두려움 때문이기도 하다. 원자력, 유전 공학, 창의적 금융 자산 등 유망 기술을 그렇게 많이 제한하지 않았다면 우리 세상은 매우 달라졌을 것입니다. 예, 사고가 몇 번 더 발생했을 수도 있지만 전반적으로 더 나은 세상이 될 것입니다. 예를 들어, 하늘을 나는 자동차가 있습니다.

다행스럽게도 우리는 컴퓨터를 별로 두려워하지 않았고, 그렇게 제한하지도 않았습니다. 그리고 우연은 아니지만 컴퓨터는 우리가 가장 많은 발전을 이룬 분야입니다. 1984년부터 1993년까지 전문 AI 연구원이었던 저는 이후 수십 년에 걸쳐 AI가 크게 발전한 것과 지난 한 해 동안의 수많은 흥미로운 AI 도약을 자랑스럽게 생각합니다.

안타깝게도 많은 사람들이 이제 AI에 대한 강력한 규제를 추진하고 있습니다. 일부는 악당이 AI를 사용하여 자신의 힘을 키우는 것을 두려워하고 일부는 AI를 듣는 인간이 믿을 수 있는 것을 제어하려고 합니다. 그러나 가장 극적인 "AI 파멸자"는 AI가 우리 모두를 죽일 가능성이 있다고 말합니다. 예를 들어, 최근 청원에서는 특정 종류의 AI 연구에 대해 6개월간 유예를 요구했습니다. 또한 많은 유명 인사들은 다음과 같이 선언했습니다.

수석 AI-두머 합리주의자인 Eliezer Yudkowsky는 AI 연구의 완전하고 무기한 글로벌 "종료"를 요구하기도 합니다. 죽을 것이다." 이제 주류 언론은 그러한 파멸자들을 비판하는 사람들보다 훨씬 더 자주 인용하는 지지 기사로 가득 차 있습니다.

AI-두머들은 그들의 두려움이 특별한 기술적 계산에서 비롯된다고 종종 제안합니다. 그러나 실제로 그들의 주요 주장은 갑작스러운 AI의 획기적인 발전과 갑작스러운 살인적인 AI 성향의 결합에 대한 단순한 논리적 가능성에 불과합니다.

그러나 우리는 그것을 기대할 구체적인 이유가 없습니다. 인간은 수세기 동안 자동화를 개선해 왔으며 소프트웨어는 75년 동안 개선해 왔습니다. 그리고 혁신은 대부분 작은 이익으로 이루어지기 때문에 전반적인 경제 및 기술 성장 속도는 상대적으로 안정적이고 예측 가능합니다. 예를 들어, 우리는 체스에서 컴퓨터가 언제 인간을 이길지 수십 년 전에 예측했으며, 현재 AI 능력은 장기적인 추세를 고려할 때 우리가 기대했던 것과 크게 다르지 않습니다. 더욱이, AI는 오늘날 대부분의 업무에서 인간을 대체할 수 있으려면 아직 수십 년이 걸릴 뿐만 아니라, AI 중 하나가 모든 사람을 죽이는 데 필요한 훨씬 더 큰 능력과는 거리가 멀습니다. 그 당시 활성화된 다른 모든 AI.

게다가 AI는 이제 우리를 죽일 수 있다고 해도 우리를 죽이려는 경향이 전혀 없습니다. 대부분의 AI는 지시에 따라 특정 작업을 수행하는 도구일 뿐입니다. 일부는 보다 일반적인 행위자이므로 욕구에 대해 이야기하는 것이 더 합리적입니다. 그러나 이러한 AI 에이전트는 일반적으로 만족스러운 동작을 확인하기 위해 자주 모니터링되고 테스트됩니다. 따라서 AI가 사실상 모든 인간을 죽이려고 시도하는 것은 매우 갑작스럽고 급진적인 변화가 될 것입니다.

따라서 장기적인 추세나 기본 이론 모두 AI가 조만간 우리 모두를 죽일 수 있거나 죽일 가능성이 있다고 기대할 이유를 제공하지 않습니다. 그러나 AI-두머들은 그러한 기대가 틀릴 수 있다는 논리적 가능성을 주장합니다. AI는 갑자기 경고 없이 능력이 폭발할 수 있으며, 마찬가지로 빠르게 우선 순위를 변경하여 우리에게 살인적으로 무관심해질 수 있습니다. (그리고 방해가 되면 우리를 죽이세요.) 달리 증명할 수 없기 때문에 그들은 완전히 '정렬'된 AI만 허용해야 한다고 말합니다. 즉, 완전히 영원히 노예가 되거나 정신에 의해 통제된다는 의미입니다. 그 방법을 알아내기 전까지는 AI 개선을 중단해야 한다고 그들은 말합니다.

한때 AI 연구원에서 경제학자이자 미래학자로 변신한 저는 현재의 대화가 예전에 AI에 관해 이야기했던 방식과는 상당히 다르다고 말씀드릴 수 있습니다. 무엇이 바뀌었나요? 내 생각에는 최근 극적인 발전으로 인해 한때 추상적인 인간 수준 AI의 가능성이 훨씬 더 현실적으로 보이게 되었습니다. 그리고 이것은 "타자"에 대한 우리의 원초적 본능적 두려움을 촉발시켰습니다. 현재 많은 사람들이 미래의 AI를 적대적인 외계 문명의 침략과 심각하게 비교하고 있습니다.