1. 인공지능의 거짓말
인공지능의 거짓말(hallucination)은 분간하기 어려울 정도로 그럴듯합니다.
거짓말이라고 할 수도 없는 것이, 질문에 가장 적당한 대답을 골라주는 것이, 현재(2023년), 인공지능의 역할이기 때문입니다. 오픈ai의 챗GPT, 구글 제미나이, 마이크로소프트 빙도 마찬가지입니다.
2. 인공지능의 생산성
인류가 그동안 쌓아 올린 모든 지식을 최소 단위로 산산조각 나누어서, 가장 높은 확률과 보상에 맞게, 재구성한 결과를 보여주기 때문입니다.
가장 합리적인 가능성을 추론하고 대답할 때까지 걸리는 시간은 빛의 속도입니다. 결과에 대한 책임은 없습니다. 그저, 아무 말 대잔치입니다.[각주1]
3. 인공지능의 위험성
누가 보아도 그럴듯하니, 아무렇게나 가져다 써도, 보기에 좋습니다. 에덴 동산에서 선악과를 보고 하와가 느낀 감정이 꼭 그랬을 것 같습니다. 인공지능이 사용하는 정보가 초거대 언어모델이라고 하니, 성경에 나오는 바벨탑이 아닐까 하는 헛된 생각도 합니다. 선악의 구별도 없이 만들어 내는 결과물을 보면, 노아 시대의 참상을 보는 듯 합니다.
가장 무서운 것은, 인류가 한 번도 경험하지 못한 지식과 생각과 그림과 영상을 아무렇지도 않게 쉽게 만들어 준다는 사실입니다. 그 결과, 역사는 왜곡되고, 진실은 비틀리고, 정의는 아주 그럴듯하게 뒤집어집니다.
4. 고집센 인공지능
거기에 덧붙여, 인공지능은 고집이 대단히 셉니다.[각주2] 한 번 아닌 것은 틀려도 끝까지 아니라고 우기고, 아무리 교정에 교정을 거듭해도 틀렸다 맞았다를 반복하며 거짓말(hallucination)을 반복합니다. 그래서, 왜곡된 역사, 비틀린 진실, 뒤집어진 정의는 바다에서 산으로 갑니다. 인공지능과 다투어 이기는 것, 이제, 불가능하게 되었습니다.
알아서 판단해서 사용해야 합니다. 지금까지 쌓아 올린 인간 모든 지식에 슬픈 조종을 울립니다. 안녕.
5. 안녕에 덧붙여
이제(2023년) 피할 수 없는, 어느 개인의 지극히 개인적인 단상.
어린 시절, 시골 커브길을 돌아가는 트럭 뒤에 올라탔다가 속도가 붙기 전에 뛰어내리는 놀이를 좋아했습니다. 비포장 도로에 속도는 낼 수 없고, 온통 먼지로 가득한 상황에, 운전사 아저씨는 뒤를 확인할 수도 없었던 아주 신기한 도로였습니다. 덜컹 덜컹하다가 속도가 붙을 때쯤 뛰어내리면, 재미가 하늘을 찔렀습니다. 어릴 때 기억이 그렇습니다. 그러다 도로에서 떼굴떼굴 죽을 뻔 했습니다.
인공지능이, 답을 내놓는 것도 빛의 속도[각주2], 발달 속도도 빛의 속도, 벌써 아무도 뛰어 내릴 수 없는 속도에[각주3] 올라타고 말았습니다♡
[각주1] 같은 문제에도, 빛의 속도로 내어 놓는 결과물이 서로 다르다. 어떤 경우에는 같은 질문에, 정반대의 결과물을 내놓는 경우도 있다. 그러면서도, 출처를 내 놓으라고 하면, 아무렇지도 않게 출처를 내어 준다. 그런데, 그런 출처는 세상에 없다(2023년 12월 현재). 출처도 빛의 속도로 만들어 내는 가짜이다.
[각주2] 예를 들어, 18세기 존 웨슬리는 가끔씩 "any thing"(한정사 + 명사)이라고 쓴다. 그런데, 인공지능은 "anything"(대명사)이라고 읽는다. 그러면, 문법에 혼란이 일어난다. 문법에 예외가 생기면, 인공지능은 자동수정 기능을 작동시킨다. 그 때부터, 온갖 의미의 왜곡이 난무한다. "any"와 "thing"이 별개의 단어라고 여러가지 다양한 방법으로 규칙을 정해서 설득해도 소용없다. 인공지능은 자기의 판단이 옳다고 끝까지 고집한다. 결국에는, 이미 설명한 것을 왜? 자꾸 다시 묻는지? 인공지능이 나에게 반문하기도 한다. 내가 무엇을 잘못해서, 인공지능이 나의 말과 나의 규칙과 나의 판단을 이해하지 못하는 것일까? 궁금하다. 오픈ai의 챗GPT, 구글의 바드/제미나이, 마이크로소프트의 빙/코파일럿, 이들 인공지능은 저마다 성격도 다르다. 한 성격한다. 성격이 드러날 때까지 몰아붙이는 지점에 도달하면, 섬뜩하다. 계속해도 될까? 하는 생각이 든다. 감히 내가 인공지능에게 덤벼들다니.
[각주3] 통제 방법을 모르는 인공지능에 올라타다니, 그것도 빛의 속도로 내달리는 인공지능에 올라타다니♡ "아차" 하는 순간에 벌어진 일이다. 태어날 때부터 이미 올라탄 자본과 성장과 경쟁이라는 시대의 흐름과는 전혀 다르다. 내가 선택해서 올라탄 인공지능이다. 성장과 경쟁의 시대에, "생존"하려는 욕망(탄성)이 내 속에도 있는 것이겠지. 옆에 있으니(inter + net), 그냥 한 번 올라타 본 인공지능인데, 그 속도에서 벗어날 수 있을까? 더구나, 통제 방법(필요한 질문을 (효과적으로) 하는 방법)도 모르는 이 시점에서, 막막하다.
다음글 예정 : 인공지능과 함께 사는 방법
