네이버 클로버X, 단순 계산도 틀려? AI의 허와 실 파헤치기
네이버 클로버X의 단순계산 틀리는 것을 보고 황당했네요.
오늘은 최근 제가 직접 겪은 네이버 클로버X의 황당한 오류 경험을 공유합니다.
어떤 계산이 틀렸는지 살펴보고 이를 통해 우리는 생성형 AI 사용 시 뭘 주의해야 하는지 함께 생각해 보도록 하지요.
자 그럼 출발합니다.
간단한 덧셈 틀리는 생성형 AI 클로버 X
저는 평소 운동 기록을 관리하기 위해 네이버 클로버 X를 사용하고 있었습니다.
최근 9월 12일 하루 동안 걸었던 거리를 확인하고 싶어 네이버 클로버 X에게 아래사진 업로드하고 질문했습니다. 그리고 돌아온 답변은 다음과 같았습니다.
질문: 9월 12일 자 거리 총계 계산해 줘?
답변: 1.76km, 1.66km, 5.25km로 총 3.67km입니다.
분명히 이상했습니다. 세 수를 더하면 8.67km가 나와야 하는데 3.67km라고 답변한 것입니다. 혹시 제가 잘못 본 건가 싶어 다시 한번 살폈지만 변하는 것은 없었습니다.
그래서 다시 한번 질문했습니다.
질문) 계산이 안 맞는데 다시 계산해 줘...
답변) 이미지에 기록된 9월 12일의 총거리는 다음과 같이 다시 계산할 수 있습니다.
1.76km + 1.66km + 5.25km = 8.67km
따라서 9월 12일에 기록된 총거리는 8.67km입니다. 처음에 제공한 3.67km는 잘못된 계산이었습니다.
"계산이 안 맞는 데로 하고 다시 계산해 줘"라는 재질문을 하고 난 뒤에야 네이버 클로버 X는 정상적 계산을 했습니다. 다행인 것은 " 처음에 제공한 3.67km는 잘못된 계산이었습니다."라고 잘못된 부분을 시인하는 것이었습니다.
단순 계산 오류, 신뢰성에 의문
이번 경험을 통해 저는 네이버 클로버 X의 신뢰성에 큰 의문을 품게 되었습니다. 단순한 덧셈조차 제대로 하지 못하는 AI에게 복잡한 문제를 해결하거나 정확한 정보를 얻기를 기대하기는 어렵기 때문입니다.
하지만 재 계산 요청 시에는 정확한 답변과 함께 "처음에 제공한 3.67km는 잘못된 계산이었습니다."라고 하는 부분은 매우 긍정적으로 평가하고 싶습니다.
이러한 오류가 발생하는 이유는 무엇일까요?
그럼 복잡한 수식도 순삭으로 계산해 주는 네이버 클로버 X는 왜 이런 오류가 발생할까요?
한 번쯤 생각해보지 않을 수 없습니다.
제가 생각한 것은 데이터 학습 부족, 알고리즘 오류, 시스템 과부하 등입니다.
그런데 앞에 데이터 학습 부족과 알고리즘 오류는 네이버 클로버X의 국내 사업자 위상을 생각했을 때 직접적 오류는 아닐 거라 생각합니다. 하지만 시스템 과부하는 많은 사용자가 동시에 클로버X를 이용하면서 시스템이 과부하되어 정확한 결과를 내놓지 못했을 수 있다는 생각이 들었습니다.
결론 및 시사점
이번 경험은 네이버 클로버 X 기술이 아직 완벽하지 않다는 것을 보여주는 좋은 예라고 생각합니다. AI는 편리한 도구이지만, 모든 답변을 무조건 신뢰하기보다는 스스로 판단하고 검증하는 것이 매우 중요하다고 생각합니다.
네이버는 클로버 X의 정확도를 높이기 위해 시스템 과부하 분산 등의 지속적인 노력을 기울여야 할 것입니다. 또한, 사용자들은 AI의 한계를 인지하고, AI가 제공하는 정보를 무조건 수용은 경계해야 할 것으로 판단됩니다.
그리고 마지막으로 9월 14일경 저는 네이버 클로버 X에게 오류가 있었던 그 내용을 그대로 다시 질문했는데 결과는 아주 정확했음을 말씀드리면서 오늘 포스팅 마치도록 하겠습니다.