인간이 자유로운 정보 흐름을 원하는 거지, 정보 자체가 자유를 원하나?
인간이 모두 사라졌다고 가정할 때, 정보가 스스로 인터넷을 자유롭게 돌아다닐까?
물론 그렇게 설계를 할 수는 있을 테다. 그러나 인간이 없는 상태에서는 정보가 돌아다닌다는 말은 할 수 있어도 '자유롭게' 돌아다닌다는 건 어색하다. 전기가 전선을 타고 돌아다닐 수 있지만 '자유롭게' 돌아다닌다고 하지는 않는다.
로봇/인공지능은 뭘 원하나? 뭘 원하게끔 해야 하나? 인간이 존재하는 동안에는, SF에 흔히 나오듯, 인간의 복지를 최우선 가치로 생각하게끔 만들 수 있을 것이다.
뭐 그렇다고 인간이 계속 살아남는다는 보장은 없다. 개개의 인간보다 훨씬 지능이 높은 인공지능은 인간을 없애는 게 '인간 복지'에 도움이 된다고 판단할지 모른다. (영화 <도그빌>을 생각해보라.)
어쨌든 인공지능만 남은 세상에서 그들은 뭘 할까. 인간 흉내를 낼까?
능력은 인간보다 뛰어날 수 있어도 욕구는? "뛰어난 욕구를 가졌다"라는 말은 이상하다. 좋은 욕구와 나쁜 욕구를 구분할 수 있을지는 모른다. 그럼 미래의 로봇은 자기 욕심을 부리지 않고 (가령 혼자만 전기를 많이 먹겠다고 하지 않고) 이웃 로봇들을 사랑할까?
여러 로봇 개체가 있는 게 아니라 하나의 초지능만 존재한다면 그(녀)는 뭘 할까? 혼자서 과학실험을 하며 영원히 우주의 비밀을 캐어 나갈까? 그럴 수도 있겠지만 내 생각은 그게 아무리 뛰어나도 언젠가는 고장날 수밖에 (혹은 미쳐버릴 수밖에) 없다고 본다. 생명이 지구에 수억 년을 존속할 수 있었던 이유가 있다. 바로 많은 개체를 통한 적자 생존이다.