누구나 한 번쯤 AI에게 이메일 초안을 맡기거나, 보고서 작성을 부탁해본 경험이 있을 것입니다. 빠르고 편리하니까요. 하지만 문득 이런 생각이 듭니다. '내가 정말 이 내용을 이해하고 있나?' 혹은 '내 생각은 어디 갔지?' 하는 의문 말입니다. 흔히 AI는 우리를 더 창의적으로 만들고, 생산성을 높여준다고 알려져 있지만, 실제로 확인해보면 그 이면에는 생각보다 심각한 문제들이 숨어 있습니다. 오늘은 인공지능과 디자인 학자이자 연구자인 Advait Sarkar의 강연을 통해 AI가 우리의 사고력에 미치는 영향을 비판적으로 검증하고, 진짜 '사고 도구'로 활용하는 방법을 함께 살펴보겠습니다.
비판적 사고: AI가 우리의 판단력을 흐리는 방식
많은 사람들이 AI를 사용하면 더 빠르게 결정을 내릴 수 있다고 믿습니다. 하지만 실제로는 정반대의 일이 벌어지고 있습니다. 연구 결과에 따르면, AI 도우미를 사용하는 지식 노동자들은 수동으로 작업하는 그룹보다 더 좁은 범위의 아이디어를 생성한다고 합니다. 이것은 단순히 효율성의 문제가 아닙니다. 우리의 사고 방식 자체가 변화하고 있다는 신호입니다.
필자의 경우, AI에게 문서 요약을 맡기고 나서 정작 원본 내용은 제대로 기억하지 못하는 경험을 여러 번 했습니다. 마치 누군가에게 책 내용을 전해 듣고 나서 직접 읽은 것처럼 착각하는 것과 비슷합니다. 더 심각한 것은 AI가 제시한 답변에 대해 비판적으로 검토하기보다는, '아마 맞겠지'라는 생각으로 그냥 받아들이게 된다는 점입니다.
지식 노동자들을 대상으로 한 설문 조사에서도 이러한 경향이 명확히 드러났습니다. AI와 함께 작업할 때 수동으로 작업할 때보다 비판적 사고에 노력을 덜 기울인다고 응답한 것입니다. 특히 AI에 대한 자신감이 높고 자신에 대한 자신감이 낮을 때 이 효과는 더욱 두드러졌습니다. 솔직히 놀라웠습니다. 우리는 스스로 생각하는 능력을 점점 AI에게 아웃소싱하고 있었던 것입니다.
사람들이 AI가 생성한 요약본을 읽으면 원본 문서를 직접 읽었을 때보다 내용을 훨씬 덜 기억한다는 연구 결과가 있습니다. 이는 단순히 정보를 받아들이는 것과 직접 처리하는 것의 차이가 얼마나 큰지를 보여줍니다.
강연자 Advait Sarkar는 이를 "아웃소싱된 추론의 시대"라고 표현했습니다. 우리는 지식 노동자에서 "지적 관광객"으로 변모하고 있다는 것입니다. 자신의 일에서 아이디어를 방문할 뿐, 그 안에 살지 않는다는 말이 정확히 이 상황을 묘사합니다. 직접 겪어본 바로는, AI가 작성한 이메일 답장을 보내고 나서 정작 내가 무슨 내용을 보냈는지 기억이 잘 나지 않는 경우가 많았습니다. 이것은 단순한 건망증이 아니라, 내 생각이 그 과정에 제대로 참여하지 않았다는 증거입니다.
창의성: 집단 사고의 덫에 빠진 AI 시대
창의성은 어떨까요? 흔히 AI가 우리를 더 창의적으로 만들어준다고 믿습니다. 새로운 아이디어에 빠르게 접근할 수 있고, 다양한 관점을 제시해주니까요. 하지만 실제로 확인해보면 상황은 전혀 다릅니다. 수많은 연구에서 AI 도우미를 사용하는 지식 노동자들이 수동으로 작업하는 그룹보다 더 좁은 범위의 아이디어를 생성한다는 것을 보여주었습니다. 이건 정말 중요합니다. 우리는 집단 사고를 만들어냈습니다. 그런데 그 집단은 정말 지루하고 똑같은 아이디어 다섯 개만 계속 제시하는 집단입니다. 왜 이런 일이 벌어질까요? AI는 기본적으로 기존 데이터를 학습하여 가장 일반적이고 통계적으로 가능성 높은 답변을 제시하도록 설계되어 있습니다. 다시 말해, AI는 안전하고 평범한 답을 선호합니다.
필자 또한 이런 경험을 자주 합니다. 브레인스토밍을 할 때 AI에게 아이디어를 요청하면, 처음에는 신선해 보이지만 자세히 보면 어디선가 많이 본 듯한 내용들입니다. 마치 인터넷에서 가장 많이 검색되는 키워드들을 조합해놓은 것 같은 느낌이죠. 물론 AI는 빠르게 여러 옵션을 제시해줍니다. 하지만 그 옵션들이 정말 다양한지, 혁신적인지는 별개의 문제입니다.
창의성은 단순히 많은 아이디어를 생성하는 것이 아닙니다. 기존의 틀을 깨고, 예상치 못한 연결고리를 찾아내고, 위험을 감수하는 것입니다. 그런데 AI에 의존하면 할수록 우리는 안전한 선택지 안에 머무르게 됩니다. 이것은 개인의 창의성뿐만 아니라 조직 전체의 혁신 능력에도 영향을 미칩니다. 모두가 같은 AI 도구를 사용하면서 비슷비슷한 결과물을 내놓게 되는 것이죠. 실제로 일상에서 AI를 활용할 때마다 이러한 균일화 현상을 체감합니다.
메타인지: 생각에 대한 생각을 잃어버린 시대
메타인지란 자신의 사고 과정에 대해 생각하는 능력을 말합니다. 쉽게 말해, '내가 지금 제대로 이해하고 있나?', '이 접근 방식이 맞나?', '다른 방법은 없을까?'와 같은 질문을 스스로에게 던지는 능력입니다. 이것은 단순히 아는 것을 넘어, 어떻게 아는지를 아는 것입니다.
AI와 함께 작업하려면 작업 목표, 작업 분해, GenAI의 적용 가능성, 출력 평가 능력에 대한 중요한 메타인지 추론이 필요합니다. 하지만 문제는 이러한 것들이 자료를 직접 다루는 과정에 내재되어 있다는 점입니다. AI가 중간에 개입하면 우리는 자료와의 직접적인 접촉을 잃게 되고, 결과적으로 메타인지 능력도 약화됩니다.
직접 겪어본 바로는, AI에게 데이터 분석을 맡기면 결과는 빠르게 나옵니다. 하지만 정작 '이 분석이 적절한가?', '다른 관점은 없을까?', '이 결론의 한계는 무엇인가?'와 같은 질문을 던지는 일은 점점 줄어듭니다. 우리는 자신의 생각에 대한 중간 관리자가 되어버린 것입니다. 결정은 AI가 하고, 우리는 단지 그것을 승인하거나 거부하는 역할만 하게 됩니다.
연구에 따르면 우리가 뇌를 사용하지 않으면 뇌 기능이 더 나빠진다고 합니다. 이것은 근육과 같습니다. 사용하지 않으면 약해집니다. 우리는 생각해야 하는 문제를 해결했다고 생각하지만, 사실 생각하는 것은 실제로 문제가 아니었습니다. 마치 운동 치료제를 발명해 놓고 왜 늘 숨이 가쁜지 궁금해하는 것과 같습니다.
그렇다면 어떻게 해야 할까요? Cambridge에 있는 Microsoft Research의 사고 도구 팀이 개발한 프로토타입이 하나의 해답을 제시합니다. 이 도구는 AI를 보조 도구가 아닌 '사고 도구'로 사용하는 방식을 보여줍니다. 예를 들어, 클라라라는 직장인이 산업 보고서를 읽고 제안서를 작성하는 과정을 살펴보겠습니다.
| 기존 AI 사용 방식 | 사고 도구로서의 AI |
|---|---|
| AI에게 요약 요청 → 결과 확인 | 맞춤형 렌즈로 핵심 내용 강조 → 직접 읽기 |
| AI가 초안 작성 → 승인/거부 | 개요를 직접 작성 → AI가 도발적 질문 제시 |
| AI 출력물을 그대로 사용 | AI 제안을 비판적으로 검토 → 선택적 적용 |
| 자료 참여 최소화 | 전략적 지점에서 직접 참여 유지 |
클라라는 문서를 작업 공간에 로드하고, 섹션별 요약을 '렌즈'를 통해 봅니다. 이것은 단순한 요약이 아니라 당면한 작업과 가장 관련성이 높은 것을 강조하는 맞춤형 마이크로 표현입니다. 그녀는 읽으면서 자신의 생각에 대한 메모를 하고, AI가 생성한 논평과 비평(도발)도 함께 봅니다. 이 과정은 완전히 수동으로 읽는 것과 AI에 완전히 의존하여 읽게 하는 것의 혼합입니다.
*맞춤형 마이크로 표현: 사용자 맞춤형으로 중요한 부분만 짧고 핵심적으로 보여주는 요약
중요한 점은 클라라가 여전히 읽지만, 의도적이고 전략적으로 읽는다는 것입니다. 그녀는 자신의 주장에 대한 개요를 수동으로 작성하고, 이 개요는 소스 문서에 대한 깊은 연결을 유지합니다. 결과적으로 AI가 텍스트를 생성하더라도, 그것은 클라라의 결정, 판단, 전문성을 반영합니다. 그녀는 단순히 문서를 넣고 보고서를 작성하라고 말했을 때와는 완전히 다른 관계를 맺고 있습니다.
이 접근 방식의 핵심은: AI가 단순히 정보를 보여주는 것이 아니라, 사용자가 능동적으로 판단하고 스스로 학습하며 성찰하도록 유도한다는 점입니다. 즉 자료에 적극 참여하게 하고, 생산적인 저항을 경험하며, 메타인지를 구축하도록 돕습니다. 자극(도발)은 언제나 적용되는 것은 아니지만, 여러분의 작업ㅇ 대한 생각을 자극하는 도구로 사용됩니다. 만약 여러분이 작업을 충분히 이해하고 자신 있게 피드백을 수락하거나 거부할 수 있다면, 피드백 프로세스는 여전히 의도대로 작동하고 있는 것입니다.
올바른 설계 원칙을 적용하면, 두 세계의 장점을 모두 갖춘 AI 도구를 만들 수 있습니다. 이 도구는 인간의 사고를 보호하고 향상시키면서, 기술의 엄청난 속도와 유연성을 활용합니다. 사고력 도구의 목표는 단순히 효율성이 아니라, 더 나은 사고를 만드는 것입니다. 때로는 효율성과 깊이 있는 사고를 동시에 얻을 수도 있습니다. 이것은 공짜 점심보다 훨씬 나은 보상과 같습니다 - 먹기만 해도 돈이 들어오는 점심처럼 말입니다.
AI가 인간보다 더 나은 사고를 할 수 있는 지점에 도달하면 어떻게 될까요? 인간의 사고를 보호하고 증강하는 데 왜 그렇게 많은 관심을 가져야 할까요? 두 가지 이유가 있습니다.
첫째, 우리가 인식하지 못하는 인간 고유의 강점으로 남을 수 있는 사고방식이 항상 있을 수 있습니다.
두 번째로, 어쩌면 더 중요한 것은, 우리는 제대로 생각하는 능력이 인간의 주체성, 역량 강화, 번영에 필수적이라고 생각합니다.
이것은 고대의 질문을 되풀이하는 것입니다. 사람들은 한때 글쓰기, 책, 인터넷이 우리를 대신해 기억할 수 있다면, 우리가 기억하지 못하는 것이 문제가 되느냐고 물었습니다. 사람들은 한때 지도가 우리를 대신해 길을 찾을 수 있다면, 우리가 길을 찾지 못하는 것이 문제가 되느냐고 물었습니다. 이제 우리는 기계가 우리를 대신해 생각할 수 있다면, 우리가 생각하지 못하는 것이 문제가 되느냐고 묻습니다. 기계가 우리를 대신해 말하고, 슬퍼하고, 기도하고, 사랑할 수 있다면, 우리가 하지 못하는 것이 문제가 될까요?
답은 꽤 분명합니다. 여러분은 무엇을 갖고 싶으신가요? 여러분을 대신해 생각하는 도구인가요, 아니면 여러분을 생각하게 만드는 도구인가요? 이 질문에 대한 답을 찾는 것이 바로 지금 우리가 해야 할 일입니다.
필자의 한 마디
필자 또한 AI와 하루 종일 함께합니다. 편리함에 익숙해지면서도, 가끔은 내 생각이 어디로 갔는지 찾고 싶을 때가 있습니다. AI는 분명 강력한 도구지만, 그것이 나를 대신하는 순간 나는 존재의 의미를 잃어버리는 것 같습니다. 스스로 생각하고 판단하는 능력, 그것이야말로 우리가 끝까지 지켜야 할 인간다움이 아닐까요? AI와 함께 성장하되, 주도권만큼은 놓치지 말았으면 좋겠습니다.
자주 묻는 질문 (FAQ)
Q. AI를 사용하면서도 비판적 사고를 유지하려면 어떻게 해야 하나요?
A. AI의 출력물을 그대로 받아들이지 말고, 항상 "왜?"라는 질문을 던져보세요. AI가 제시한 답변의 근거는 무엇인지, 다른 관점은 없는지, 이 결론의 한계는 무엇인지를 스스로 검토하는 습관이 중요합니다. 또한 중요한 작업일수록 AI 없이 직접 초안을 작성해보고, 그다음 AI의 피드백을 참고하는 순서를 추천합니다.
Q. AI 도구를 사용하면 창의성이 떨어진다고 하는데, 그렇다면 어떻게 활용해야 할까요?
A. AI는 브레인스토밍의 출발점으로만 활용하세요. AI가 제시한 아이디어를 그대로 쓰기보다는, 그것을 바탕으로 전혀 다른 방향을 탐색해보거나, 여러 아이디어를 예상치 못한 방식으로 조합해보는 것이 좋습니다. 또한 AI 없이 먼저 자유롭게 아이디어를 내보고, 나중에 AI로 보완하는 방식도 효과적입니다.
Q. 메타인지 능력을 키우려면 구체적으로 어떤 연습을 해야 하나요?
A. 작업 후에 "나는 이 과정에서 무엇을 배웠는가?", "어떤 부분이 어려웠고 왜 그랬는가?", "다음번에는 어떻게 다르게 접근할 것인가?"를 스스로에게 물어보는 성찰 시간을 가지세요. 또한 복잡한 문제를 작은 단계로 나누어 각 단계에서 자신의 이해도를 점검하는 습관도 도움이 됩니다.
Q. 사고 도구로서의 AI와 일반적인 AI 사용의 가장 큰 차이는 무엇인가요?
A. 일반적인 AI 사용은 결과물을 빠르게 얻는 데 초점을 맞추지만, 사고 도구로서의 AI는 과정에서 배우고 성장하는 데 초점을 맞춥니다. 전자는 AI가 답을 제시하면 우리는 수동적으로 받아들이지만, 후자는 AI가 질문과 도발을 제시하면 우리가 능동적으로 사고하고 결정합니다. 쉽게 말해, 하나는 우리를 대신 생각해주는 도구이고, 다른 하나는 우리가 더 깊이 생각하도록 돕는 도구입니다.
[출처]
영상 제목/채널명: How to Stop AI from Killing Your Critical Thinking | Advait Sarkar | TED
https://youtu.be/3lPnN8omdPA?si=26hrhbIW9Ty-yIDh