SF 장르의 영화는 오랫동안 인공 지능이 의식을 갖게 된다는 가정을 즐겨왔다. 1968년 영화 2001: 스페이스 오디세이(2001: A Space Odyssey)에서 슈퍼컴퓨터로 변신한 악당 HAL 9000이 좋은 예이다. 현대에 와서 인공지능(AI)의 급속한 발전으로 그 가능성은 점점 현실이 되어가고 있으며 AI 분야의 리더들조차 이를 인정한다. 지난해 챗봇 ChatGPT를 개발한 OpenAI의 수석 과학자 일리야(Ilya Sutskever)는 최첨단 AI 네트워크 중 일부가 약간 의식적일 수 있다고 트위터에서 밝혔다. 많은 연구자는 AI 시스템이 아직 의식 수준에 이르지 못했지만, AI 진화 속도가 빠르게 진행되면서 인공지능을 연구하는 연구자들은 AI의 의식에 대하여 숙고하게 되었다.

AI에 의식이 생겼다는 사실을 어떻게 알 수 있나
이에 답하기 위해 19명의 신경과학자, 철학자, 컴퓨터 과학자로 구성된 그룹은 시스템이 의식을 가질 가능성이 높다는 것을 나타내는 기준 체크리스트를 만들었다. 연구 비영리 단체인 AI 안전 센터(Center for AI Safety)의 철학자이자 공동 저자인 로버트 롱(Robert Long)은 “AI 의식에 대한 상세하고 경험적 근거가 있으며 사려 깊은 논의가 실제로 부족한 것 같았기 때문에 저자들이 이러한 노력을 기울였다.”라고 밝혔다.

연구팀은 AI 시스템이 의식을 갖게 되었는지, 여부를 확인하지 못하는 것이 중요한 도덕적 영향을 미친다고 말합니다. 공동 저자이자 캘리포니아 대학교 어바인 캠퍼스의 신경과학자인 메간 피터스(Megan Peters)에 따르면, 어떤 것이 '의식적'이라는 라벨이 붙으면 그것은 인간으로서 우리가 개체를 대우받아야 한다고 느끼는 방식에 많은 변화를 준다고 말한다.

로버트 롱은 의식에 대한 모델을 평가하고 그러한 일이 발생할 때 무엇을 해야 할지 계획을 세우기 위해 고급 AI 시스템을 구축하는 회사에서 충분한 노력을 기울이지 않고 있다고 말합니다. 그리고 “AI 의식이나 AI 감각이 그들이 궁금해하는 것이라고 말하는 사실에도 불구하고 말입니다.“라고 그는 덧붙입니다.

인공지능 ChatGPT에 깊게 관여하고 있는 회사 마이크로소프트는 회사의 AI 개발은 인간의 지능을 복제하는 것이 아니라 책임감 있는 방식으로 인간의 생산성을 지원하는 데 중점을 두고 있다고 대변인을 통해 전했다. 공개적으로 출시된 ChatGPT의 가장 발전된 버전인 GPT-4가 도입된 이후 분명한 것은 AI의 잠재력을 최대한 활용하여 사회에 이익을 주는 방법을 탐구하면서 이러한 AI 모델의 기능을 평가하려면 새로운 방법론이 필요하다는 것이라고 밝혔다.

인공지능(AI)에 의식은 무엇일까
AI에서 의식을 연구할 때 과제 중 하나는 의식이 있다는 것이 무엇을 의미하는지 정의하는 것이다. 연구자들이 현상적 의식, 즉 주관적 경험에 초점을 맞추는 것인데, 이것은 존재의 경험이다. 사람, 동물 또는 AI 시스템(의식이 있는 것으로 판명된 경우)이 되는 것과 같은 것이다. 그러나 아직까지 AI를 평가하는 새로운 방법을 찾기 위한 경쟁이 진행 중이다.

의식의 생물학적 기초를 설명하는 신경과학 기반 이론은 많다. 그러나 어느 것이 '올바른' 것인지에 대한 합의는 없다. 따라서 프레임워크를 만들기 위해 연구자들은 다양한 이론을 사용했다. 아이디어는 AI 시스템이 이론의 많은 측면과 일치하는 방식으로 작동한다면 의식이 있을 가능성이 더 크다는 것이다. 이것이 단순히 시스템에 행동 테스트를 실시하는 것(예: ChatGPT에 의식이 있는지 묻거나 도전하고 어떻게 반응하는지 확인하는 것)보다 의식을 평가하는 더 나은 접근 방식이 될 수 있다. AI 시스템이 인간을 모방하는 데 놀라울 만큼 능숙해졌으므로 의식을 모방하는 것도 가능할 것이라는 이야기이다.

연구자들이 이론 중심적이라고 묘사하는 이 그룹의 접근 방식은 좋은 방법이라고 영국 브라이튼 서삭스 대학교 의식 과학 센터 소장인 신경과학자 아닐 세스(Anil Seth)는 의견을 전한다. 그러나 그것이 강조하는 것은 “우리에게는 더 정확하고 잘 검증된 의식 이론이 필요하다는 것”이라고 그는 덧붙였다. 인공지능에 의식이 있는지에 대한 기준을 개발하기 위해 연구자들은 의식이 뉴런, 컴퓨터 칩 등 구성 요소와 관계없이 시스템이 정보를 처리하는 방식과 관련이 있다고 가정한다. 이러한 접근 방식을 계산 기능주의라고 하는데, 인간과 동물의 뇌 스캔과 기타 기술을 통해 연구되는 신경과학 기반의 의식 이론이 AI에 적용될 수 있다는 말이다.

실험실에서 자란 뇌가 의식을 가질 수 있을까
이러한 가정을 바탕으로 연구팀은 여러 이론 중 6개를 선택하고 그중에서 의식 지표 목록을 추출했다. 그중 하나인 전역 작업 공간 이론은 예를 들어 인간과 다른 동물이 보고 듣는 것과 같은 인지 작업을 수행하기 위해 모듈이라고도 하는 많은 특수 시스템을 사용한다고 주장한다. 이러한 모듈은 독립적으로 그리고 병렬로 작동하며 단일 시스템에 통합되어 정보를 공유한다. 연구자 중 한 사람인 로버트 롱은 "시스템의 아키텍처와 정보가 시스템을 통해 어떻게 흐르는지를 살펴봄으로써 특정 AI 시스템이 이 이론에서 파생된 지표를 표시하는지 여부를 평가할 것“이라고 말한다.

연구자들은 이 논문이 AI 시스템의 의식을 평가하는 방법에 대한 최종 결론과는 거리가 멀며 다른 연구자들이 그들의 방법론을 개선하는 데 도움을 주기를 원한다고 말한다. 하지만 이미 기존 AI 시스템에 기준을 적용하는 것이 가능하다. 예를 들어 보고서는 ChatGPT와 같은 대규모 언어 모델을 평가하고 이러한 유형의 시스템이 글로벌 작업 공간 이론과 관련된 의식 지표 중 일부를 가지고 있음을 발견했다. 그러나 궁극적으로 이 작업은 기존 AI 시스템이 적어도 아직은 의식을 위한 강력한 후보임을 시사하지 않는다는 점이다.

참조: arxiv