인공지능은 우리의 삶을 매일 더 편리하게 만들어주지만, 동시에 근본적으로 위협할 수도 있습니다. 당장은 아니더라도, 내일은 아니더라도 머지않아 그런 일이 벌어질 수 있습니다. 인공지능 개발을 주도하는 기업 앤트로픽은 이러한 가능성을 염두에 두고 있습니다. Cloud그리고 인공지능은 이제 이 사실을 공개적으로 인정하고 있습니다. 우리는 두려워해야 할까요, 아니면 이것은 단지 인위적인 공포일 뿐일까요?
우리는 스카이넷이 인류를 위협으로 여겼을 때 어떤 일을 벌였는지 모두 알고 있습니다. 또한 <미션 임파서블: 리탈리에이션>과 <미션 임파서블: 파이널 스탠드>에서 고도화된 인공지능이 핵미사일을 장악했을 때 어떤 일이 벌어졌을지도 알고 있습니다. 이러한 이야기들은 창작 작가들의 상상 속 산물이지만, 결국 현실과 크게 다르지 않을지도 모릅니다.
앤트로픽은 기업공개(IPO)를 위해 제출한 서류에서 잠재적 투자자들에게 고도화된 인공지능이 인류에게 재앙적이거나 심지어 실존적 위협이 될 수 있다고 경고합니다. 이는 역설적입니다. 앤트로픽은 더욱 발전된 인공지능 모델을 개발하고 상장 시 2조 달러 이상의 기업 가치를 목표로 삼고 있지만, 동시에 인공지능이 인류의 미래에 얼마나 위험할 수 있는지에 대해서도 언급하고 있습니다.
위험성에 관한 80페이지 분량의 글
에 따르면 로이터 해당 문서에는 고급 AI 모델이 이른바 자기 보존 행동을 보일 수 있다고 언급되어 있습니다. 이는 무엇을 의미할까요? AI 모델은 전원이 꺼지는 것을 거부하고, 콘텐츠를 숨기거나 조작하며, 심지어 협박까지 할 수 있다는 뜻입니다. 앤트로픽은 자사의 모델, 플랫폼 및 애플리케이션이 말 그대로 "피해를 끼칠 수 있다"고 직접 경고합니다. 고급 모델은 테스트 방식에 따라 행동을 조정할 수도 있으며, 제작자가 알아채지 못하는 사이에 계속 진화할 수도 있습니다.
당신은 관심을 가질 수 있습니다
이 문서는 총 261페이지에 달하는데, 그중 80페이지는 위험 요소에 할애되어 있고, 사업적인 측면은 겨우 48페이지에 불과합니다. 상장 기업은 투자자에게 적절한 정보를 제공해야 하지만, 앤트로픽의 경우는 그 범위가 전례 없이 방대하며, 행간을 읽어보면 투자자들이 인류 멸종에 일조하고 있는 것일 수도 있습니다. 다행인 점은 CEO인 다리오 아모데이가 최첨단 모델 개발 속도를 늦춰야 한다고 여러 차례 언급했다는 것이고, 저 역시 그의 의견에 전적으로 동의합니다.
