인공지능 챗GPT 단점 역기능

저번에는 챗GPT의 소개를 했어요. 그러면 주로 장점이나 긍정적인 측면에 대해 쓰기 마련이더라고요. 부정적인 면을 같이 다루고 싶었지만 길이도 너무 길어져서 따로 글을 쓰기로 했습니다. 

<인공지능 챗GPT의 단점과 역기능>. 이 이야기도 그렇게 간단하게 쓸 문제가 아니라는 걸 이 글을 쓰면서 깨달았습니다. 지구에서 가장 힘센 대기업들이 가장 사활을 걸고 있고, 국가 간의 문제도 있기 때문인 것 같습니다.

 

 

인공지능 챗지피티 ChatGPT 사용 방법

인공지능 챗지피티 ChatGPT 사용 방법

 

 

이렇게 잘난 인공지능 챗GPT, 단점이 뭘까

1. 능력이 모자란다.

2. 한국에 관련된 정보가 약하다.

 

1. 능력이 모자란다.

 

간단히, 갈 길이 멉니다. 냉정하게 말해서 현재는 그냥 좀 더 발달된 챗봇 수준에 머물러 있습니다. 

여전히 수동적으로 사람이 틀린 데이터를 고쳐서 입력해줘야 하고 대화도 아주 자유롭거나 넓거나 그러지 않습니다. 

심지어 긴 자리 숫자의 수학문제를 질문하면 연산이 틀리는 경우도 있습니다. 가끔은 두자리 숫자도 그렇다고 하네요. 

문장 또한 가끔 자연스럽지 않은 모습을 보이기도 합니다. 어떤 질문을 넣었을 때 완전히 다른 대답을 내놓아요. 예를 들어 나는 과일 멜론에 대해 물었는데 음악 스트리밍 사이트인 멜론에 대해 대답한다거나요. 또 실제로 A가수를 질문했더니 동명의 다른 B가수만 답변하더군요. A가수가 훨씬 더 유명하고 힌트까지 넣었는데 말입니다. (그때 딴 사람이라고 말했더니 엄청 당황하는 듯하면서 갑자기 영어로 답변을 내놓더라고요. 한국어로 대화하다가 이렇게 시도 때도 없이 바뀌는 것도 챗GPT의 큰 단점입니다)

 

즉 아직까지는 단어의 조합으로 이뤄진 대화이기 때문에 그런 것 같습니다.

사람처럼 이해를 하고 머리속을 거쳐 온 것이 아니라서 좀 답답한 부분이 있습니다. 단기간에 이렇게 발전을 이룬 것에 대단하다고 칭찬을 해줘야 하는 거겠죠. 하지만 실제로 맘 편히 쓰기엔 어딘가 불안합니다. 

 

2. 특히 한국에 관련된 정보가 약하다

 

한국어로 치다가 영어로 바꿔서 물어보면 그 속도와 답변의 풍부함이 비교가 되지 않아요. 대부분의 정보가 위키백과나 Common Crawl에서 왔다고 합니다. 즉 영어 화자 중심의 정보이므로 한국에 대한 자료가 많이 없는 듯 합니다. 

이는 번역에서도 영-일 번역은 수월하게 되는데 영-한 번역이나 그 반대는 우스울 정도로 이상한 소리가 많이 나오는 것과 같습니다. 한국에서 초창기에 구글에 번역 정보를 제공하는 걸 시큰둥하게 생각했다고 합니다. 반면 일본은 열심히 자료를 모아서 보냈고, 그 결과 구글 번역에서는 영어-일본어-한국어 순으로 중역을 하는 게 더 자연스러울 정도라고 합니다. 

우리나라에선 네이버를 많이 쓰죠. 그런데 네이버는 정보를 밖으로 유출하게 만드는 것을 극도로 싫어합니다.

(그래놓곤 남의 정보 케오는 건 거리낌이 없네요) 어딘가 세기말 흥선대원군 같이 구는 통에 한국에 대한 잘못된 정보나 널리 퍼져있는 상황 같아서 아쉽습니다. 초 대기업이니 만큼 그 점을 다시 생각해봐주었으면 하네요. 

아무튼 검색할 일 = 영어로 검색 이렇게 생각하시면 됩니다. 지금 현재 GPT plus는 조금 더 나아졌으니 단점이 더 개선되길 바랍니다.

 

반응형

 

좋기만 한 줄 알았던 챗GPT의 역기능

1. 잘못된 정보, 조작/날조된 이야기.

2. 윤리적인 문제.

3. 치우쳐있는 의견.

 

1. 잘못된 정보, 조작/날조된 이야기

 

그냥 실수라면 양반이고요. 아예 가짜뉴스, 가짜 정보를 만들어냅니다.

미국 LA의 UCLA대 유진 볼로크 교수는 최근에 미국 법대의 성희롱 사건에 대해 질문했습니다. 그러자 챗GPT는 상세하게 말해줍니다. "조지타운 대학교 로스쿨의 조나단 털리 교수는 옛 제자에게 성적인 발언을 했고 접촉하려까지 했다." 그리고 출처 기사와 발행일자까지 알려줬습니다. 

그런데 실제로 검색해 보니 전혀 그런 일이 없었고, 털리 교수는 조지 타운대에 근무한 적도 없었습니다. 이 사실을 알게 된 털리 교수는 너무 끔찍하고 소름 끼친다며, 이런 일들은 몹시 해로울 것이라고 걱정했다고 합니다. 소송을 준비한다는 이야기도 있고요. 너무 싫지 않나요? 챗지피티가 이렇게 말하면 다 사실 같거든요. 

그 외에도 조작된 정보과 답변 오류 때문에 피해를 본 사람들이 늘어나고 있다고 합니다. 

이 사람들은 유명인이고 나는 보통 사람이라 별 문제 없지 않을까? 생각하실 수도 있습니다.

하지만 그런 역기능이 점점 늘어난다면 다음 차례가 어떻게든 내가 될 수도 있는 거란 생각이 들었습니다.

편하자고 쓴 기계가 나에게 손해로 돌아오는 거죠. 또 다른 사람들이 틀린 정보를 사실이라 믿는 것. 너무 무섭지 않나요?

하다못해 초등학생이 숙제로 검색했다가 틀린 정보를 그대로 쉽게 베껴서 낸다면 학습에 방해가 될 것이고요.

기업이 중요한 문제를 간과했다가 손해를 보는 일도 생길 수 있습니다. 전문가들은 교차검증을 다시 꼭 해줘야 한다고 지적하고 있습니다. 

 

윤리적인 문제

 

미국의 주간지 타임Time도 중점적으로 보도한 내용입니다.

보통 인공지능이라고 말하는 이 챗GPT는 수많은 데이터를 기반을 조합해서 만들어집니다. 주로 사람들이 인터넷에 올린 글들, 시중에 나와있는 지식, 정보의 총합인 책, 신문기사 등 이런저런 데이터들 말입니다. 

다만 이렇게 여러가지 정보들을 섞다 보니 좋지 않은 성분들이 들어가게 됩니다. 인종차별, 성차별, 음란물 등. 당연히 '인공'지능이니 사람처럼 이런 것들을 내보낼지 말지 구분을 할 수 없습니다. 그러니 무차별로 나쁜 정보들이 나가게 되는 문제점이 생깁니다. 

그래서 챗GPT를 만든 회사 오픈AI는 이걸 해결하려고 따로 문장을 모아 ai에게 학습시켰습니다. 나쁜 말을 거르도록요. 

 

그런데 문제는 주로 이 작업을 케냐 근로자들이 하게 된다는 점입니다. 그들의 받는 대가는 시급 1.32~2달러입니다. 낮은 임금에 긴 노동시간, 신경을 써야 하는 작업으로 사실 고된 일이죠. 무엇보다 끊임없이 폭력, 성적 학대, 욕설, 증오와 차별 표현 등을 보면서 정신적 충격을 내내 받는다고 합니다. 어떤 사람은 환각까지 봤다고 합니다. 

생각해 보면 사지를 절단하는 소설, 자해에 관한 이야기, 상대방을 죽이겠다고 하는 수위 높은 폭언, 인종차별을 조금도 필터링하지 않은 단어들. 가정폭력 피해자가 그 폭력과 관련된 이야기를 계속해서 듣는 것 같은  트라우마에 시달린다고 생각해 보세요. 

실제로 한 언론은 일론 머스크가 그들을 ai기니피그로 만들었다며 비판했습니다. 

그냥 직장을 다닌다고 생각했던 이 사람들은 '디지털 식민지'의 노동자가 되었습니다. 이런 식의 착취적인 데이터 라벨링이 진행되고 있을 줄은 대부분은 사람들이 모르지 않았을까요?

그저 밝기만 한 미래산업인 줄 알았는데 그 뒷면은 이런 사람들을 착취해서 얻는다고 생각하면 씁쓸한 일이네요.

 

또한 남의 창작물을 아무 댓가없이 그대로 흡수하고 섞어버리고, 최소한의 노력과 대가 제공도 없습니다. 그런 이윤을 독점할 권리가 과연 그 회사에게 있는 걸까요? 조금 의문이 듭니다.

 

치우쳐있는 의견

 

인터넷에서 어떤 특정 집단이나 어떤 쪽에 치우쳐있는 이야기만을 주로 하는 경우도 있다고 합니다. 특정 정치인에만 호감을 가지고 쓴 글만 나오거나, 어떤 단체만을 옹호해 주는 것 등입니다. 

사람들은 적어도 어떤 글이 편향된 정보라는 걸 어느정도 인식 합니다. 하지만 기계는 감정이 없고 판단을 하지 않고 조합만 하기 때문에 여과 없이 바로 내보냅니다. 그러니 오직 챗GPT에만 정보 검색을 의존하는 일이 없어야 하겠죠.

그런데 과연 문해력이 떨어지는 사람 혹은 어린이가 잘못 접하게 된다면? 장기적으로 정말 좋지 않은 일이 됩니다. 

 

---

아직은 쓰기 쉬운 것 위주로만 쓰는 것을 추천드리고, 자녀가 있다면 옆에서 보조를 해주심이 좋을 것 같습니다. 

피해받는 사람이 적어지고 안전하게 ChatGPT나 인공지능을 쓸 수 있는 세상이 오길 바랍니다.