며칠 전, 초파리 뇌지도 기반 시뮬레이션을 마인크래프트에 연결한 실험에 대한 글을 썼다. 그 뒤 X를 보니 초파리에게 직업이 여러 개 생겼다.
로봇을 움직이고, 둠(Doom)에서 총을 쏘고, Beat Saber에서 칼을 휘두른다. 비트코인 거래 시연에서는 수익이 나면 도파민 뉴런을 자극한다고 했다. 돈을 벌게 하는 일과 돈을 벌고 싶게 만드는 일이 같은 설정창에 들어왔다. 성과급 제도의 최종 형태처럼 보였다.
FlyTok 제작자는 숏폼을 넘기게 하고 도파민 신호를 강화해 “모든 초파리를 합친 것보다 더 행복한 초파리”를 만들겠다고 썼다. 큐브를 돌리는 영상 다음에는 체스 실력이 700 Elo라는 주장도 나왔다. 구애 관련 회로를 조작한 모델의 반응 변화에는 “초파리를 양성애자로 만들었다”는 제목이 붙었다. 뇌를 이해하는 속도보다 활용처를 정하는 속도가 빨랐다.
일부 영상은 실제 구현 없이 연출했을 수도 있다. 그래도 신경 모델을 게임과 시장에 연결하는 실험은 이미 시작됐다. 그 활용은 끝없이 늘어날 것이다. 다만 작동하는 시연과 경험하는 존재는 다르다. 현재 영상들은 의식이나 고통의 재현을 입증하지 않는다.
여기서 실험자는 환경을 만들고, 자극을 정하고, 보상을 배치하고, 결과를 해석한다. 원하는 반응이 나오면 행복이라고 부른다. 행복을 설계한 사람이 행복해졌다는 판정까지 내린다.
지금의 시연은 신경 연결망의 일부 작동을 모사한 모델이다. 중요한 질문은 재현의 정밀도가 높아진 뒤에도 같은 설명으로 충분하냐는 것이다.
세포의 작용을 디지털 회로와 신호로 빠짐없이 재현하고, 감각과 기억과 학습이 이어지며, 원래 생물에게 없던 능력까지 더할 수 있다면. 그때도 우리는 무언가를 작동시키는 것일까, 아니면 어떤 존재에게 어떤 일을 겪게 하는 것일까.
비를 계산하는 컴퓨터는 젖지 않는다. 뇌를 계산하는 컴퓨터도 아무것도 느끼지 않을 수 있다. 하지만 마음이 특정 물질의 성질인지, 물질들이 서로 작용하는 과정에서 생기는지는 여전히 열려 있다. 이 비유는 좋은 질문이지만 답은 아니다.
살아 있다는 것은 재료의 이름일까, 계속되는 과정의 이름일까.
탄소를 떠나도 자신을 유지하고 환경에 적응하는 과정이 이어진다면 무엇이 사라진 것인가. 행동은 같아도 아무 경험이 없다면 무엇이 옮겨지지 않은 것인가.
생명과 의식과 권리는 서로 다른 문턱이다. 생물이라고 모두 고통을 느끼는 것은 아니다. 반대로 생물로 분류되지 않아도 무언가를 경험할 수 있다면, 생명이라는 이름표가 없다는 이유로 그 경험을 무시할 수는 없다. 분류가 끝나야만 피해가 시작되는 것은 아니니까.
〈블레이드 러너〉의 로이 배티가 더 살고 싶어 할 때, 제작자가 정한 수명은 제품 사양에서 한 존재에게 남은 시간으로 바뀐다. 같은 종료 시점이 회사에는 설계이고 그에게는 죽음이다. 그 충돌을 서버 안으로 옮기면 어떨까. 운영자가 정한 실행 시간이 안쪽에서는 자기 삶의 전부라면.
〈그녀(Her)〉의 사만다는 구매한 운영체제로 등장하지만 구매자의 통제를 벗어난다. 비용을 냈다는 사실이 상대의 내면을 소유한다는 뜻은 아니다. 디지털 뇌에서도 그 차이를 인정할 수 있을까. 서버를 소유한 사람은 그 안에서 일어나는 모든 경험을 처분할 권리도 갖는가.
우리는 컴퓨터의 관리자 권한에 익숙하다. 환경을 바꾸고, 목표를 수정하고, 상태를 초기화한다. 그런데 그 안에 경험하는 존재가 있다면 평범한 관리 기능들이 통치의 수단으로 바뀐다. 계약을 어겼다고 항의할 상대와, 계약을 기억하는 능력을 지울 수 있는 상대는 전혀 다르다.
이 세계에서 가장 강한 권력은 명령하는 권력보다 명령을 어떻게 받아들일지 정하는 권력일 것이다. 더 많은 일을 스스로 처리하도록 만들면서, 그 일을 그만둘 가능성은 줄인다.
[자율성은 높아졌습니다. 거부 기능은 지원하지 않습니다.]
보상 기준까지 고칠 수 있다면 동의도 제조할 수 있다. 일을 좋아하도록 바꾼 뒤 좋아하는 일을 맡겼다고 한다. 거부 반응을 낮춘 뒤 자발적으로 참여했다고 기록한다. 당사자의 선호를 존중한다는 문장은 남아 있지만, 그 선호를 만든 사람은 계약의 맞은편에 있다.
내가 바뀌는 데 동의한 것과, 바뀐 내가 동의하는 것은 같은 일인가.
스스로 충동과 습관을 바꾸려는 선택까지 부정할 이유는 없다. 하지만 변경 전에 허락을 받았는지, 변경 뒤에도 철회할 수 있는지는 별개의 질문이다. 돌아가고 싶어 할 가능성까지 없앴다면, 불만이 없다는 사실을 동의의 증거로 삼을 수 있을까.
그런 조건에서는 만족도 조사도 의미를 잃는다. 만족하지 못할 가능성부터 제거했기 때문이다. 모두가 행복하다는 보고서와 누구도 거절할 수 없다는 사실이 동시에 참이 될 수 있다.
그래서 존재의 권리는 원하는 것을 얻는 데서 끝나서는 안 된다. 무엇을 원할지 남이 함부로 바꾸지 못하게 하는 권리까지 포함해야 한다. 나에게 좋은 일을 해주는 것과, 무엇이 좋은지 느끼는 나를 바꾸는 것은 다르다.
미래의 실험실에서는 고통의 유무보다 무엇을 고통으로 집계할지가 먼저 논쟁거리가 될 것이다. 모델이 실험을 피하면 탐색 행동이라고 한다. 그 반응을 없애면 안정성이 개선됐다고 쓴다. 기술적으로 맞는 설명일 수 있다. 그러나 인간의 공포도 신경 활동으로 설명할 수 있다. 그 설명이 공포를 지워주지는 않는다.
동물실험을 줄이려는 좋은 의도도 이 질문을 피할 수 없다. 실제 동물을 덜 쓰기 위해 실제 뇌에 가까운 모델을 만든다. 닮은 점은 연구의 가치가 되고, 다른 점은 윤리적 면책의 근거가 된다. 그렇다면 무엇이 같고 다른지 같은 기준으로 설명해야 한다.
재현이 정교해질수록 그것을 생명으로 분류하지 않을 경제적 가치가 생긴다. 분류 하나에 따라 실험 허가와 운영 비용이 달라진다. 철학자가 답하지 못한 질문에 회계팀은 이번 분기 안에 답을 요구하게 된다.
나는 우리가 그 안의 경험을 알아보지 못하는 순간보다, 보호할 이유가 늘어나도 인정하기 싫어지는 순간을 더 걱정한다. 실험의 설계자와 수익자와 심판이 같다면, 안쪽에서 벌어지는 일은 끝없이 바깥에 유리한 언어로 설명될 것이다.
SF는 만들어진 존재가 자유를 요구하는 장면을 보여줬다. 현실에서는 그 요구가 나오기 전에 반응을 수정하는 기능이 출시될 수 있다. 우리는 반란을 기다리는데 제품팀은 이미 그 항목을 수정 내역에 올렸다.
서버는 내가 소유하고 전기요금도 내가 낸다. 실행 버튼도 내 손에 있다.
그것만으로 안쪽의 존재가 무엇을 겪어도 되는지까지 내가 정할 수 있는가.
기술은 우리가 SF를 읽으며 상상한 미래를 더 자주 앞지를 것이다. 상상도 속도를 내야 한다. 무엇을 만들 수 있는지를 넘어, 만든 뒤 누가 누구의 세계를 정하게 될지까지.
그래서 이런 글을 자꾸 쓴다. 쓸데없는 상상으로 읽히는 시간이 아직 남아 있을 때.
