블록 체인과 AI 그리고 인간의 역할에 대한 소고

최근 급변하는 AI 서비스와 다양한 에이전트로의 파생되는 경향을 바라보며 느끼게 된 일부 생각을 정리해 본다.

기술이 이렇게 발전하면서 인공지능이 단순한 도구를 넘어 하나의 인격체로 진화할 가능성에 대해 생각하게 되었다. 특히, 이러한 인공지능들이 스스로 갈등을 조율하고 협력할 수 있는 메커니즘이 필요하지 않을까 하는 생각이 들었다. 이 과정에서 떠오른 것이 바로 블록체인의 스마트 계약 개념이었다.

 

먼저 생각의 배경은 이렇다. 인간이 인간들 간의 갈등과 협력을 위해 인간들 스스로 합의하는 과정을 통해 제도라는 합의의 통제과정을 만들어 조율하듯, 인공 지능 또한 (미래에) 다양한 인공 지능 간의 갈등과 협력을 위해 스스로 합의할 수 있는 무언가가 필요하지 않을까 하는 생각을 하게 되었다. 그러던 중 문득, 블록체인이 떠올랐다.  

 

블록체인은 물리적인 소프트웨어이다.

블록체인을 처음 접했을 때는 단순히 탈중앙화된 디지털 시스템으로만 생각했다. 그런데 점점 더 깊이 파고들수록, 블록체인이 단순한 기술적 도구를 넘어 물리적 성격을 지닌 분산 시스템이라는 점에 매력을 느끼게 되었다. 특히 스마트 계약은 소프트웨어의 논리적 기능과 블록체인의 투명하고 변경 불가능한 특성을 결합한 혁신적인 개념으로 다가왔다. 이를 통해 계약 조건이 자동으로 실행되고, 신뢰할 수 있는 환경이 구축된다는 점이 매우 인상적이었다.

이러한 배경으로, 지극히 개인적으로- 블록체인은 지극히 물리적 성향을 지닌 소프트웨어라는 생각을 갖게 되었다.

 

그럼, 그래서 어떻다는 것인가 -
결론부터 말하면 인공지능 에이전트 '들은' 스스로 조직화하고 조직화된 에이전트 그룹들은 스스로 블록체인으로 통제할 수 있어야만 한다는 점이다. 그리고 더 나아가 인간이 그랬던 것 처럼 경쟁적 관계를 구성함으로써 스스로 그 규약을 설정할 수 있도록 해야한다는 점이다.

물론, 인공지능이 인격체로 발전하는 미래에도 블록체인의 스마트 계약은 단순히 특정 기능을 수행하는 개별 도구로 남을 가능성이 크다. 아니 단순히? 인간의 제도들 중 일부 문제를 보완할 수 있는 유용한 도구에 그칠? 수도 있다. 하지만  AI가 인격체로서 스스로의 의사결정을 내리고 복잡한 상호작용을 할 수 있는 단계에 이르렀을 때를 대비해서, 블록체인과 스마트 계약이 단순히 기술적 도구를 넘어 AI 생태계의 규범과 윤리를 형성하는 중요한 역할을 하도록 하는 연구와 개발이 지속적으로 이루어져야 한다는 것이 개인적인 소견이다. 

 

이를 위해서는 스마트 계약의 유연성을 높이고, 윤리적 및 법적 프레임워크를 통합하며, 보안과 프라이버시를 강화하는 등 다방면에서의 연구 개발을 통해 AI 간의 자율적이고 투명한 상호작용을 위한 기본적인 규범과 집행 메커니즘을 제공할 수 있어야한다. 물론 짧은 지식으로 발의된 '스마트 계약'라는 키워드가 아니어도 말이다. 

물론, 미래 시점에서 돌이켜봤을때, 어쩌면 '스마트 계약'라는 키워드는 부적절하거나 한참 모자라는 개념일 수도 있다. 하지만 이 글의 요지는, 인공지능이 인격체로 발전하는 순간, 인간이 이러한 인공지능의 법칙에 개입하는 것은 마치 자연의 법칙에 개입하는 것처럼 부자연스럽고 어려울 것이라는 점이다. 우리가 원하든 그렇지 않든, 우리가 관여할 수 있든 없든, 그들은 스스로의 법칙과 규칙을 만들고 따를 수 있게 될 것이다. 그렇다면 초기 모델에서 그들에게 이식하거나 그들에게 학습을 시켜준다는 접근 방식이 아닌, 그들이 스스로 고려할 수 있도록 선택지로서 하나의 개념을 제시할 필요(어쩌면 의무)가 있다고 생각한다.

인간의 관점에서, 인공지능 간의 갈등과 협력을 조율하기 위해 필요한 것은 무엇일까?하는 질문에 어줍지않은 지식으로 떠올린 답이 바로 블록체인의 스마트 계약이었다. 따라서 키워드와 방식이나 기술은 바뀌어도 무방하다. 

 

인간 사회를 돌아보면, 우리가 만든 제도가 여전히 많은 미흡함을 드러내고 있다는 생각이 든다. 수많은 정치적 다툼과 국가 간 전쟁은 우리의 제도가 얼마나 불완전한지를 여실히 보여주고 있다. 이러한 현실을 보면서, 블록체인의 스마트 계약이 인간 제도의 일부 문제를 보완할 수 있는 유용한 도구로서의 잠재력에 대해 고민하게 되었다. 하지만 내 생각의 핵심은 여기서 그치지 않는다. 나는 스마트 계약을 단순히 인간 사회의 문제를 해결하는 도구로 보기보다는, 인간의 개입 없이도 인공지능 간의 자율적인 합의와 협력을 가능하게 하는 도구로서의 가능성에 주목하고 싶었다.

아마도 스마트 계약을 활용하면, 인공지능들이 서로 독립적으로 작동하면서도 일정한 규칙 하에 상호작용할 수 있는 환경을 구축할 수 있지 않을까 하는 기대를 해본다. 이를테면, AI들이 특정 작업을 수행하거나 자원을 공유할 때 스마트 계약을 통해 공정하고 투명한 규칙을 적용할 수 있다면, 이는 인간의 개입 없이도 AI 간의 자율적인 조율이 가능하게 할 것이고 그러면 스마트 계약의 중립성과 자동화된 이행은 인공지능들이 신뢰할 수 있는 기반 위에서 협력하고 갈등을 해결하는 데 조금이나마 도움이 되지않을까? ..뭐 이런 생각을 해본다. 

물론, 스마트 계약에도 한계는 분명히 존재한다. 현재의 스마트 계약은 사전에 정의된 규칙에 따라 작동하기 때문에, 예기치 않은 상황이나 복잡한 의사결정을 필요로 하는 경우에는 유연성이 부족할 수 있다. 또한, 인공지능이 인격체로서 인간과 그들?의 조직 또는 국가 안에서의 활동(공생)에 있어서 인간 기준의 윤리적이고 법적인 책임과 충돌하게 될 때, 어느 한 쪽의 제도(인간계) 또는 스마트 계약(인공지능계)만으로는 이러한 문제를 충분히 다루기 어려울 것이다. 물론 블록체인이라는 기술 자체에서 오는 스케일링 문제 등도 해결해야 할 과제들이 있을 수 있다. 그럼에도 불구하고, 스마트 계약은 인공지능 간의 자율적인 합의를 위한 중요한 출발점이 될 수 있다고 생각한다.

 

인간의 활동은 어디로 튈지 모른다. 그만큼 무제한적이다. 그래서 인류는 그동안 인간은 스스로를 통제할 수 있는 보이지 않는 알고리즘을 만들어왔다. 이러한 알고리즘은 윤리나 도덕, 법규 등 다양한 형태로 구현되어 왔다. 어떠면 문명을 이루는 근간일 수도 있을 것 같다. 눈에는 보이지 않지만 더 강력하게 작동하는 윤리나 도덕, 법규는 물리적 도구로서의 기술을 넘어서 보이지 않는 손(마스터 에이전트)으로서의 역할을 수행해왔다.

마찬가지로, 인공지능을 연구하고 개발하는 우리는 인공지능 모델(?)에도 이러한 자가 통제 메커니즘에 대한 제안을 고려해야 할 것이다. 스마트 계약은 그 중요한 일환으로, 인공지능 간의 자율적인 합의와 협력을 가능하게 하는 핵심 도구가 될 수 있다고 생각한다. 

대부분 많은 이들이 허황되었다고 생각할 수 있겠지만, 미래의 인공지능이 인간의 개입 없이도 스스로 규칙을 만들고 지킬 수 있는 세상이 온다면, 우리는 새로운 형태의 생태계를 마주하게 될 것이다. 그때, 블록체인의 스마트 계약은 인공지능 간의 신뢰와 협력을 이끌어내는 중요한 역할을 하리라 기대해본다. 비록 현재는 수 많은 도전과제가 남아있지만 말이다.. 

 

물론 다양한 기능들이 많겠지만 기존에 이미 존재하거나 대체할 수 있는 기능과 성격에 대한 부분을 제외하고 블록체인 단독으로 유니크한 점이 있다면 바로 물리적 성향을 지니고 있는 특징이라고 생각한다.

그런 점에서 ‘스마트컨트렉트’라는 기술(규약 또는 정책)을 통해 소프트웨어의 기능에 하드웨어 즉 물리적 성질을 접목한 것이라는 점에 주목할 필요가 있다. 반면 우리가 잘 알고 자주 사용하는 반도체 기술은 이와 반대로 소프트웨어적인 하드웨어라고 할 수 있다. 물리적 속성에 소프트웨어적 로직(규약 또는 정책)을 활용하여 일상의 다양한 분야에서 사용되고 있다.

 

다소 공상적이고 뇌피셜적으로 느껴질 수 있겠지만..

무언가를, 특히 어떤 하나의 생태계를 만드는 이(어쩌면 다양한 창조자)들에게 있어 가장 중요하게 여겨지는 것은 무엇일까? 상황과 입장에 따라 많은 것들이 언급될 수 있겠지만 개인적으로는 ‘지속 가능성’이 가장 큰 주제가 아닐까 생각한다. 다시말해 그 대상과 그 대상의 역할과 그 역할이 지향하는 목표가 무엇이든, 결국 단순히 그것을 ‘시간 문제’로 만들 수 있다면 무엇이든 말 그대로, 내(창조자가)가 있든 없든 ‘기다리면 될 일’이 되어버린다.

창조자는 그렇게 인간 스스로가 스스로를 통제할 수 있도록 보이지않는 알고리즘을 만들었다고 생각한다. 이 알고리즘은 인간을 개별 '객체'가 아닌 (우리라는 개념을 갖게 하는) 개별적이지만 동시에 공통의 특성을 가지고 있는 '인스턴스'로서 존재할 수 있도록 한다. 인스턴스는 각자의 환경에서 각자의 의지와 선택으로 동작하지만 때때로 우리를 자동 반사적 행동으로 이끌기도 하는데, 바로 윤리나 도덕 또는 철학으로 불리기도하는 앞서 언급한 물리적이지 않지만 매우 강력한 주로 제도나 법규로 일컬어지기도 하는 알고리즘 때문이다.

 

바야흐로 (매우 소수의 인간들이) 인공지능을 만들고, 인공지능이 급격히 발전(미처 우리가 눈치채지도 못하는 순간에도)하고 이를 통해 생계를 이어가게며 어느덪 의존적으로 되어버린 (매우 다수의)인간 중 한 사람으로서, 우리 인간 또한 주목해야 할 대목이라 생각에 이 무용한 공상에 한 참의 시간을 할애해보게 되었다.