인공지능의 미래와 관련되는 몇 가지 개념들 (2) - 심벌 그라운딩 & 싱귤래리티

3. 심벌 그라운딩 문제(the symbol grounding problem)

    심벌 그라운딩 문제(the symbol grounding problem)는 기호로 나타낸 개념과 현실 세계를 어떻게 대응시킬지에 관한 문제입니다. 초기에 설명한 것처럼 기호처리를 기초로 한 인공지능 기술에서는 개념의 레이블(label)인 기호의 의미가 다른 기호와의 관련에 따라 기술됩니다. 기호 간의 관계를 기술하는 방법으로 의미 네트워크나 프레임 또는 프로덕션 룰이나 술어 등이 있습니다. 이렇게 인공지능의 모든 방법에서 기호의 의미는 다른 기호와의 관계에 의해 기술됩니다. 

    이에 비해 기호로 나타낸 개념을 인간이 어떻게 이해하는지를 생각해 보면 다른 기호와의 관계만이 아닌 현실 세계의 경험이나 오감에 근거한 감각과 같이 기호로는 표현할 수 없는 정보를 포함하는 다양한 관계 속에서 그 개념을 이해한다고 여겨집니다. 이 상태를 기호가 그라운딩 했다고 하는 관점에서 보면, 인공지능 시스템의 지식표현은 그라운딩 하지 않았다고 지적하는 것이 심벌 그라운딩 문제입니다. 여기서 심벌은 기호라고 이해하면 될 것이며, 기호와 그것의 의미가 결부되어(그라운드) 있지 않다는 문제입니다.

 

인간의 뇌가 정보를 처리하는 계층구조와 과정(출처. 동아엠엔비)

 

    예를 들어 음식 취향을 인공지능 시스템에 물어볼 경우를 생각해 봅시다. 챗봇과 같은 대화 응답 시스템은 좋아하는 음식과 싫어하는 음식을 사전에 기호적으로 심어두면 인간의 질문에 대해 나름대로 대답을 할 수 있습니다. 그러나 챗봇 시스템이 심벌 그라운딩 방식으로 '정말로' 음식을 가린다고 생각하기는 어렵습니다. 

    

기호를 그라운딩(grounding) 하기 위해서는 종래의 기호처리 방식의 인공지능이 아닌 현실 세계 속에서 인공지능 시스템을 가동해 인간이 가진 감각계와 운동계를 통한 외부와의 상호작용이 필요해 보입니다. 만약 그렇게만 된다면 지금까지 설명한 인공지능 시스템과는 전혀 다른 시스템이 탄생할 수도 있을 것입니다.

 4. 싱귤래리티(technological singularity): 기술적 특이점

    싱귤래리티(technological singularity) 문제란 컴퓨터의 기술, 특히 인공지능 기술의 발전으로 기계가 가진 지능이 생물의 지능을 뛰어넘을 때 어떤 일이 발생할지 예측할 수 없다는 주장입니다. 여기서 싱귤래리티란 특이점을 의미하는 단어로서 본래 수학이나 물리학에서 일반적인 방정식이나 법칙이 성립하지 않는 특수한 좌표를 말하는 것이나, 최근에는 '인공지능(AI)이 인간의 지능을 넘어서는 기점'을 의미하는 단어로 사용되고 있습니다.

    싱귤래리티(technological singularity)를 언제 맞닥뜨릴지에 대한 예상은 다양하고, 일반적으로 널리 알려져 있는 2045년은 그중 하나의 예입니다. 또한 2045년에 벌어질 일에 대해서도 다양한 예측이 있습니다.  '싱귤래리티'의 개념을 발전시켜 온 인물은 구글의 기술 부분 이사인 레이먼드 커즈와일입니다. 그는 알파고를 만든 구글의 AI 분야에서 고문직을 맡고 있는 미래학자이기도 합니다. 그는 2005년에 발간한 저서 '특이점이 온다'에서 AI가 인간의 지능을 합친 것보다 강력해질 것이라고 예견하며, 그 시점은 2045년경이 될 것으로 전망한 바 있습니다. 이 시점이 되면 AI가 도출해 낸 결과를 인간이 이해하지 못하게 되고, 이로 인해 AI를 인간이 통제할 수 없게 될 것이라는 주장입니다.

    싱귤래리티와 관련해 인간의 직업을 인공지능 시스템한테 빼앗겨 사회적인 문제가 될 것이라는 우려는 전문가들도 지적한 바가 있습니다. 또한 가상 세계에서는 싱귤래리티로 지성을 얻은 인공지능 시스템이 인간에게 반기를 드는 모습이 그려지기도 합니다. 

 

    우리가 지금까지 공부해 온 인공지능의 기술은 모두 약한 AI의 입장에 기반한 기술이고 생물이 가진 지능 그 자체가 아닌 생물의 지적 활동을 시뮬레이션해서 유용한 소프트웨어를 구현한 것에 지나지 않습니다. 따라서 이러한 기술의 연장선상에서는 기계가 생물과 비슷한 지성을 획득하는 것과 같은 발전은 불가능해 보입니다.

   그러나 범용 인공지능(AGI, Artificial General Intelligence)과 같이 전혀 새로운 기술이 등장하여 발전한다면 약한 AI의 입장과는 완전히 다른 상황이 생길 수도 있습니다. 현재는 범용 인공지능이 존재하지 않지만 애초에 그런 연구가 꼭 필요한 것인지는 생각해 볼 필요가 있을 것 같습니다. 

 

    최근에 많은 주목을 받고 있는 Open AI의 GPT4나 구글의 바드(Bard)와 같은 생성형 AI의 등장으로 싱귤래리티에 대한 걱정이 더욱 커지고 주목받고 있는 것 같습니다. 이제는 인공지능(AI) 기술이나 연구와 관련된 윤리적인 문제도 다 함께 고민해야 할 단계에 온 것 같습니다.

 

<이번 편을 마지막으로 인공지능(A)의 기초적인 개념들에 대한 공부를 마칩니다. 다음에는 그간 공부한 기초지식을 기반으로 생성(형) 인공지능(GAI; Generative Artificial Intelligence)에 대해 공부하고, 나아가 실제로 활용하는 연습을 해보려고 합니다>

 

2023.06.15 - [인공지능(AI; Artificial Intelligence)] - 인공지능(AI)의 미래와 관련되는 몇 가지 개념들 (1) - 중국어 방, 프레임 문제