‘도구를 만들어 쓰는 존재’(호모 파베르)는 인간의 두드러진 특징이다. 돌칼과 돌도끼를 만들어 쓰기 시작한 석기시대 이후 부단히 발달해온 도구의 역사는 곧 인류 문명의 역사다. 현실의 삶과 생활 조건을 개선하기 위한 인간의 노력은 더 나은 도구를 만들기 위한 생각과 시도로 나타났으며, 삶은 날로 개선되고 있다. 무수한 도구가 명멸하면서 사람과 사회에 영향을 끼쳐왔지만, 지금 우리가 당면한 상황과 견줄 만한 때는 유사 이래 없었다. 오늘날처럼 사람이 도구와 기술에 깊이 의존하고 많은 것을 위임한 적은 없었다. 고도의 효율화를 가져오고 편리하면서도 강력한 기술 덕분이다.

현재의 지배적인 기술의 형태는 컴퓨터의 언어인 디지털이다. 디지털은 거의 대부분의 풍경을 바꾸고 있다. 인류가 만들고 사용해온 도구는 물론 사람이 도구와 관계 맺는 방식도 변모시켰다. 사람과 사람, 사람과 사회가 관계 맺는 방식 자체를 새롭게 변화시키고 있다.

디지털 기술을 바탕으로 하고 있는 인공지능, 로봇, 자동화, 빅데이터 기술은 이제껏 산업의 발달 및 변화와 차원을 달리하는 새로운 혁명의 모습으로 예고된다. ‘4차 산업혁명’이 개인과 기업, 국가의 생존을 좌우하는 화두가 된 배경이다.

하지만 4차 산업혁명은 새로운 도구와 기술이 가져다줄 기회와 기대보다 불안의 모습으로 우리 사회에 다가오고 있다. 사람의 인지, 추론 능력을 뛰어넘는 인공지능의 등장은 사람을 무가치하게 만들 것이며 고도의 효율성을 지닌 강력한 로봇과 자동화는 사람의 일자리를 대체할 것이라는 우려 때문이다. 사악하고 강력한 인공지능이 인류를 지배할 것이라는 공상과학적 상상은 인간을 능가하는 인공지능의 출현으로 인해 무시하기 어려운 공포로 다가오고 있다. 인간 바둑의 최고수 이세돌 9단과 커제 9단을 무참하게 만든 알파고 연구진은 지난 10월 <네이처>에 ‘인간 지식 없이 바둑 마스터하기’라는 논문을 실어 사람의 도움이 전혀 없이 바둑의 새 경지에 도달한 알파고 제로를 공개했다.

강력하고 편리한 기술은 사람이 도구와 맺어온 근본적 관계를 역전시키고 있다. 환경과 사람의 삶을 개선하기 위해 개발한 도구가 강력해지고 편리해진 결과 사람의 통제를 넘어서게 된 것이다. 마치 1818년 발표된 메리 셸리의 과학소설 <프랑켄슈타인>에서 괴물이 자신의 창조자를 협박하며 “넌 나를 만들었지만 네 주인은 나야. 어서 복종해”라고 울부짖는 장면을 떠올리게 한다.

스티븐 호킹과 일론 머스크, 빌 게이츠 등 “인류의 생존을 위해서 사람의 능력을 넘어서는 슈퍼 인공지능의 개발을 막아야 한다”는 목소리를 내고 있지만, 더 많은 수익과 보상이 주어지는 기술의 개발을 막는다는 것은 현실적으로 불가능해 보인다. 기술은 점점 강력해질뿐더러, 그 작동원리가 눈에 보이지 않는 마법처럼 변하고 있다. 최근 인공지능 분야에서 급진전을 이룬 심화신경망 방식의 딥러닝 기계학습 알고리즘은 인공지능이 어떤 과정을 통해서 그러한 결론을 내렸는지를 알 수도 설명할 수도 없는 블랙박스와 같은 기술이라는 점이 특징이다. 강력한 기술이 만들어낸 결과값을 설계자도 이해하고 설명하지 못하지만 블랙박스 속의 기술이 지닌 고도의 효율성과 강력함은 경쟁과 생존을 위해 채택을 강요하는 압력으로 작동한다.

고도로 발달해 인류를 위협하는 기술의 존재에 대해 이스라엘의 역사학자 유발 하라리는 우리가 데이터와 알고리즘의 힘을 과신한 결과, 스스로의 종말을 가져올 것이라는 디스토피아를 경고한다. 하라리는 <호모 데우스>에서 “18세기 신 중심의 세계관에서 인간 중심 세계관으로 이동한 것처럼 21세기 데이터를 숭배하는 데이터교는 인간 중심적 세계관에서 데이터 중심 세계관으로 이동해 결국 인간을 밀어낼 것”이라고 말한다. 그 동인은 실용성이다.

디지털 세상에서 우리가 의존하는 데이터와 알고리즘 자체가 중립적이거나 공정하지 않다. 미국 메릴랜드대 법학 교수 대니엘 시트론은 “알고리즘을 객관적이라고 생각해 신뢰하는 경향이 있지만, 그 알고리즘을 만드는 것은 인간이므로 다양한 편견과 관점이 알고리즘에 스며들 수 있다”고 지적한다. 단계적 수식 프로그램인 알고리즘은 세부적 코드마다 실제로는 구체적인 가정과 선택을 필요로 한다. 이 과정에 개발자의 성향과 판단, 사회적 압력이 알게 모르게 개입한다. 조지아공대의 기술사학자 멜빈 크랜즈버그 교수가 만든 ‘기술의 법칙’은 “기술 자체는 좋은 것도 나쁜 것도 아니지만, 중립적이지도 않다”(제1조) “기술은 지극히 인간적인 활동이다”(제6조)라고 정의한다. 알고리즘에 의존해 객관적인 결과를 제공한다고 말해온 구글, 페이스북, 네이버 등 국내외 인터넷 서비스에서 인간의 편견과 개입이 어떤 결과를 낳고 있는지를 수시로 만나게 되는 현실이다.

디지털 도구의 사용자 모두가 기술철학자나 윤리학자가 될 수 없지만, 자신이 오랜 시간 많은 영역을 의존하고 있는 도구에 대해 사용자로서 우리는 기술의 속성에 대해서 좀 더 알아야 하고 자신이 지닌 강력한 권한과 책임을 동시에 느껴야 한다. <스파이더맨>에서 전하는 볼테르의 경구처럼 커다란 힘에는 커다란 책임이 따르기 때문이다.

유발 하라리의 경고처럼 복잡해지고 강력한 기술이 무엇보다 중요한 사회 변화의 동력이 된다면 그에 대한 이해를 확대하고 기술의 영역을 좀 더 사회적 통제의 영역 안으로 포함시키는 게 요구된다. 이는 기술을 외면하거나 맹신하는 것을 넘어 강력한 도구를 어떻게 개인과 사회를 위해 더 나은 기술과 환경으로 만들 수 있는가라는 과제로 이어진다. 기술을 좀 더 인간화하기 위한 효과적인 방법은 이미 사람 친화적 기술을 구현하고 있는 서비스와 도구를 찾아내 격려하고 널리 알리는 일이기도 하다. 그것이 바로 한겨레 사람과디지털연구소 ‘휴먼테크놀로지 어워드’가 지향하는 목적이다.

구본권 사람과디지털연구소장 starry9@hani.co.kr


원문보기: http://www.hani.co.kr/arti/economy/it/818190.html#csidx4f872f4f8efd06992033530c2bea054