컴퓨터는 멍청하다, 거짓말도 한다 Imagination

1. 컴퓨터는 멍청하다.
컴퓨터는 미세한 전압 차이를 구분하여 ‘0’ 과 ‘1’ 만을 구분할 수 있다.
십진법으로 계산하는 인간과 달리 ‘0’ 과 ‘1’의 두 가지만을 구분할 줄 아는 컴퓨터는 복잡한 계산을 하기에는 처리 속도가 매우 느렸고, 복잡한 계산을 위해서는 엄청난 설비 증설이 필요했다.
이런 단순함과 느림을 극복하기 위해 회로를 집적 시키고 처리 속도를 빠르게 개선하여 점차 복잡하고 빠른 계산이 가능해졌다.
처음 컴퓨터를 접했거나, 인간이 일일이 처리할 수 없는 복잡하고 방대한 정보를 컴퓨터로 처리하는 사람이라면, 컴퓨터가 매우 똑똑하며 빠르다고 생각할지도 모른다.
인간이 오랜 세월 동안 축적하여 온 지식을 활용하여 새로운 지식을 창출 하듯이, 컴퓨터는 많은 똑똑한 인간들이 오랜 역사 동안 축적해 온 지식을 활용하여 만들어 낸 지식의 집합체다.
컴퓨터가 똑똑한 것이 아니라 컴퓨터를 설계하고 그 안에 지식을 넣은 인간의 역사가 똑똑한 것이다.


2. 컴퓨터는 거짓말도 한다.
프로그램을 설계하다가 의도와 다르게 동작을 하면 “이상하다, 버그다.” 라고 말을 한다.
프로그래머가 이렇게 말을 할 때면 옆에 있던 누군가는 “컴퓨터는 거짓말을 하지 않는다. 네가 실수를 했을 것이다!” 라고 말을 한다.
전기나 물리적 오류로 인해 연산 오류가 발생하는 경우도 있기 때문에 실제로 거짓말을 하기도 하지만, 이런 경우를 배제하고 얘기한다면.
컴퓨터는 지극히 멍청하고 단순해서 인간이 시킨 그대로만 일을 한다.
다만 인간의 사고체계와 컴퓨터의 작동체계가 다르기 때문에 컴퓨터를 조작하는 인간이 프로그램을 제작할 때 착각을 하거나 혼란을 일으켜서 전혀 예상하지 않은 방식으로 동작할 여지가 있는 프로그램을 설계하는 실수를 하게 된다.
이런 사고체계의 차이로 인해 ‘거짓말’이 발생한다.

인간은 완벽히 논리적이지 않으며, 컴퓨터가 인간이 다른 인간들에게 바라는 것처럼 자기가 알아서 융통성 있게 이해하여 동작하거나 혹은 감정이입을 하여 이해해주거나 하지 않는다.

만약, 인간이 사고하는 것과 같은 방식의 ‘인공지능’이 개발된다면, 컴퓨터는 의도적으로 거짓말을 할 수도 있고, 인간의 감성과 비슷한 알고리즘을 자체적으로 설계할 수도 있다.
인공지능이 인간의 감성을 흉내 내어 ‘예측 불가능성’ 과 ‘모순’, ‘모호함’ 같은 알고리즘을 만들게 된다면, 인간처럼 모순적이고 충동적이어서 예측 불가능한 행동을 할 수 있게 될지도 모른다.
예측 불가능하고 충동적인 사고를 할 수 있게 된 인공지능은 인간처럼 모호한 존재로 인정할 수도 있다.
독립적인 하나의 인간처럼 스스로 사고(思考)하는 존재가 될 수도 있는 것이다.
인간과 같지는 않더라도 인간과 비슷한 ‘그 무엇인가’가 되는 것이다.
인간과 닮은 모습일 수도 있고, 인간과는 전혀 다른 제3의 생명체가 될 수도 있다.
그렇다면, 이런 방식으로 사고하고 행동할 수 있는 인공지능과 실제 인간을 어떻게 구별할 수 있을까?
정말 그런 인공지능과 물리적 시스템이 완성된다면, 그 존재를 어떻게 받아들이고 어떻게 상대해야 할까?
이와 같은 문제에 대해 많은 SF문학예술 작품에서 깊이 있게 다루고 있고, 걱정과 기대를 동시에 하고 있다.

PS.
2014.05.16 작성, 22일 수정
2016.04.09 내용 수정 및 추가.

덧글

댓글 입력 영역
* 비로그인 덧글의 IP 전체보기를 설정한 이글루입니다.


통계 위젯 (화이트)

7431184
8164
10251260

google_myblogSearch_side

▷검색어

Flag Counter style2