AI와 함께 만든 성과는 누구의 것인가
함께 만든 결과를 평가하는 일과 잘못을 가리는 일은 다르다
다음은 구매 업무를 가정한 예다.
구매팀이 여러 공급사의 견적을 AI로 비교했다. AI는 단가와 납기조건을 읽고 세 곳을 추천했다. 담당자는 추천 1순위를 뺐다. 과거에 품질문제가 있었던 곳이었다. 대신 2순위 업체를 골랐다.
납품은 제때 끝났고 원가도 줄었다. 월말 보고서에는 AI 기반 구매혁신 성과라고 적혔다.
몇 달 뒤 같은 방식으로 고른 다른 공급사에서 불량이 발생했다. 이번 보고서에는 다른 문장이 들어갔다. 담당자의 최종 검토가 부족했다.
성공 보고서는 AI의 성과를 강조했고, 실패 보고서는 사람의 책임을 강조했다. 두 번 모두 AI가 후보를 만들고 사람이 수정한 뒤 승인했다. 물론 두 번째 건에서는 담당자의 검토가 실제로 부족했을 수도 있다. 문제는 지금의 기록만으로는 두 보고서의 설명이 각각 맞는지 회사가 확인할 방법이 없다는 데 있다.
AI가 조직의 일에 들어오면서 이런 장면은 더 많아질 수 있다. 보고서 초안은 AI가 만들고, 사람이 숫자를 고친다. AI가 고객을 추천하고, 영업담당자가 만날 순서를 바꾼다. AI Agent가 주문을 처리하고, 관리자는 예외만 승인한다.
이때 누구의 성과인지 묻는 일은 생각보다 어렵다. 사람과 AI가 각각 얼마나 잘했는지 따로 점수 내면 될 것처럼 보인다. 그러나 공동성과가 두 점수의 합은 아닐 수 있다.
사람 점수와 AI 점수를 더하면 공동성과가 될까
도라 괸되치(Dóra Göndöcs)와 동료들은 2025년 인간-AI 협업 실증연구를 질적으로 종합했다.[1] 연구진은 2018년부터 2024년까지의 연구에서 혼합성과에 영향을 주는 24개 요인을 찾아 네 범주로 묶고 그 관계를 분석했다.
핵심은 사람의 능력과 AI의 정확도를 더해서 성과를 예측하기 어렵다는 데 있다. AI의 정확도가 높아도 사람이 언제 믿고 언제 의심해야 하는지 모르면 결과가 나빠질 수 있다. 사람의 전문성이 높아도 AI가 근거를 보여 주지 않거나 업무 흐름에 맞지 않으면 그 전문성이 개입할 자리가 없다. 시간압력과 위험도, 인터페이스와 과업구조도 함께 영향을 준다.
이를 구매 사례에 대입하면 AI의 공급사 순위와 담당자의 최종 선택을 떼어 평가하기가 어렵다. AI가 놓친 품질이력을 사람이 보완했는지, AI의 순위가 사람의 검토 범위를 좁혔는지, 사람이 제외한 업체가 원래 좋은 선택이었는지는 따로 답하기 어렵다. 세 가지가 서로 물려 있기 때문이다.
이 연구를 평가 설계에 연결하면, 개인이나 모델의 점수에 앞서 인간-AI 업무 한 건을 살펴볼 수 있다. 특정 구매결정, 고객응답, 채용검토처럼 하나의 결과를 만들기 위해 사람과 AI가 함께 움직인 과정이다. 이 단위를 평가에 쓰자는 것은 이 글의 제안이지 연구에서 검증한 평가제도는 아니다.
공동성과를 볼 때도 각자의 기여와 책임은 구분해야 한다. 함께 만들었다는 이유로 그 차이를 지우면, 잘된 이유도 잘못된 이유도 배우기 어렵다.
결과가 나온 뒤 귀속 기준이 바뀐다
성과 귀속은 사실만 읽는 과정이 아니다. 사람은 결과를 본 뒤 누가 그 결과를 만들었다고 생각할지 판단한다.
로미나 클라이너(Romina Liza Kleiner)와 동료들은 2025년 발표한 연구에서 사람-AI 팀의 성과 귀속을 두 실험, 총 397명을 대상으로 살폈다.[2] 사람-AI 팀의 논리 과업에서는 참여자가 실패를 성공보다 자신에게 더 많이 돌리는 패턴이 나타났고, 연구진은 자동화 편향이 이 관계를 설명한다고 보고했다. 창의 과업에서는 같은 양상이 확인되지 않았다.
이 연구가 본 것은 참여자가 자기 자신에게 공과를 돌린 방식이고, 구매팀 보고서처럼 제3자가 담당자에게 책임을 돌리는 경우와 같지 않다. 학회 발표 논문이고 공개 초록 범위에서 확인한 내용이어서, 실제 기업의 보상과 책임 배분을 이 연구만으로 정할 수는 없다. 다만 결과의 좋고 나쁨과 과업의 성격에 따라 사람-AI 성과를 해석하는 방식이 달라질 가능성은 보여 준다.
조직이 미리 기준을 세우지 않으면 성공과 실패에 서로 다른 이야기를 붙이기 쉽다. 성공하면 AI 투자의 효과를 강조하고, 실패하면 마지막 승인자를 찾는다. 반대로 AI 도입을 불신하는 조직이라면 성공은 숙련자의 공로로, 실패는 AI의 한계로 설명할 수도 있다.
어느 쪽이든 결과가 나온 뒤 주인공을 고르면 평가는 학습보다 정당화에 가까워진다.
통제하지 못한 결과는 평가에서 빼야 할까
책임회계는 조직의 성과를 책임 범위와 연결해 평가하고 관리하는 방식이다. 여기에는 자신이 통제할 수 있는 일로 평가받아야 한다는 직관이 있다. AI가 만든 추천을 담당자가 모두 통제할 수 없다면, 그 결과도 평가에서 빼야 할 것처럼 보인다.
그러나 그렇게 단순하지는 않다. 릭 앤틀(Rick Antle)과 조엘 뎀스키(Joel Demski)의 1988년 연구는 통제가능성만으로 평가정보를 고를 수 없다고 설명한다.[3] 통제하지 못한 결과도 다른 정보에 더해 그 사람의 행동을 이해하는 데 도움이 된다면 평가에 쓸 수 있다. 통제 밖 요인을 모두 제외하라는 논문이 아니다.
제이컵 주라이히(Jacob Zureich)의 2023년 연구는 평가받는 사람의 주의와 학습을 살폈다.[4] 앤틀과 뎀스키가 평가자에게 쓸모 있는 정보를 물었다면, 주라이히는 평가받는 사람이 그 정보를 더 살펴보는지를 물었다.
진단·학습 실험에서 다른 가상 공장의 결과도 보상에 반영하는 조건에 배정된 참여자는 그 결과를 더 살펴보고, 반복 시행에서 더 나은 결정을 했다. 효과는 그 결과가 자기 선택에 더 유용할수록 컸다.
이 실험은 AI 기업 현장이나 징계를 다룬 연구가 아니다. 그렇지만 “내가 통제하지 못했으니 평가에서도 보지 말자”는 주장에는 반론이 된다. 공동결과를 평가에서 지우면, 그 결과에서 배울 이유까지 약해질 수 있다.
구매담당자가 AI 모델을 만들지는 않았어도 어떤 추천이 실제 납품에서 문제를 일으켰는지는 알아야 한다. 그 정보가 다음 공급사를 고르는 데 도움이 될 수 있기 때문이다. 다만 관련 없는 외부 결과까지 보상에 넣거나, 공동성과를 내세워 모든 실패를 담당자에게 넘기는 것은 다른 일이다.
성과평가와 잘못의 판정은 따로 해야 한다
공동결과를 평가에 넣었다고 해서 그 결과의 원인이 한 사람에게 있었다는 뜻은 아니다. 함께 만든 성과를 보상에 반영하는 것과 실패를 개인의 잘못으로 판정하는 것은 구분해야 한다.
첫 번째는 무엇을 지표에 넣을지 정하는 일이다. 구매 한 건의 비용, 납기, 품질을 함께 보고, 그 지표가 다음 선택을 개선하는 데 도움이 되는지 검토한다. AI가 만든 결과도 여기서 빠질 이유는 없다.
두 번째는 당시 무엇을 알고 할 수 있었는지 보는 일이다. 담당자에게 어떤 확인을 요구했는지, 필요한 정보를 볼 수 있었는지, 위험을 알고도 넘겼는지 살핀다. 불량이 생겼다는 사실이나 마지막 서명만으로는 이 판단을 대신할 수 없다.
예를 들어 품질이력이 제공됐고 확인할 시간도 있었는데 담당자가 정해진 점검을 건너뛰었다면 검토 부족이라는 설명에 근거가 생긴다. 반대로 품질이력이 AI 입력에도 담당자 화면에도 없었다면, 같은 설명을 붙이기 전에 정보가 빠진 경로부터 확인해야 한다. 정보가 없었다는 사실만으로 담당자의 추가 확인 의무까지 없어지는 것은 아니다.
니나 파슬락(Nina Passlack)과 동료들은 2026년 학술지에 실린 연구에서 지식노동자 28명을 인터뷰하고 역할과 능력의 정합(role-ability fit)을 핵심 개념으로 제시했다.[5] 역할에 따라 부여된 책임과 그 책임을 수행할 실제 능력이 맞아야 한다는 뜻이다.
이 연구는 AI를 책임 있게 사용할 지식과 능력을 다룬다. 이 글에서는 이를 조직의 정보와 개입 조건까지 넓혀 본다. 추천 근거를 볼 수 있었는지, 다른 판단을 내릴 시간과 권한이 있었는지도 확인하자는 것이다. 이것은 연구가 검증한 과실 판정표가 아니라 조직에 적용해 볼 해석이다.
앞서 「AI의 판단을 누가 뒤집을 수 있는가」는 실행 전에 사람이 다른 판단을 만들 수 있는 조건을 다뤘다. 이번 글의 초점은 그 조건을 다시 나열하는 데 있지 않다. 통제 밖 공동결과도 평가에 넣을 수 있지만, 그것을 개인 과실의 증거로 바로 옮겨서는 안 된다는 데 있다.
「좋은 결과는 왜 좋은 판단을 증명하지 못하는가」에서는 성과의 원인에 대한 설명을 어떻게 검증할지 살폈다. 이번 글은 공동결과를 평가와 보상에 반영할 기준과 개인의 잘못을 판정할 근거가 어떻게 다른지 묻는다.
한 장에 놓으면 두 판단이 갈라진다.
| 인간-AI 공동결과를 보는 두 판단 | 확인할 기준 |
|---|---|
| 평가·보상: 무엇을 지표에 반영할까 | 다음 선택에 유용한 정보인지 검토 |
| 과실 판정: 무엇을 알고 할 수 있었나 | 당시 정보·요구 행동·실제 개입을 확인 |
이 도해는 인용한 연구들을 연결해 이 글에서 제안하는 분석틀이다. 두 판단을 분리하면 인간-AI 업무의 학습과 평가의 공정성이 높아질지는 아직 검증해야 한다.
공동지표를 넣기 전에 정할 것
개인 평가에 넣을 공동지표는 따로 골라야 한다. 먼저 공동지표가 다음 결정에 필요한 정보를 담고 있는지 봐야 한다. 구매담당자에게 납품 후 품질 결과는 유용할 수 있지만, 무관한 사업부의 매출까지 같은 이유로 반영할 수는 없다.
그다음 평가와 보상에서 공동지표를 어떻게 쓸지 미리 밝힌다. 이 글은 특정 반영 비율을 제시하지 않는다. 협업의 성격과 정보가치, 구성원이 떠안을 위험을 함께 따져야 한다. 공동성과를 넣으면 학습이 좋아진다는 인간-AI 현장 실험도 아직 없다.
공동지표가 나빠져 보상이 줄면, 구성원은 이를 자기 잘못에 대한 벌로 받아들일 수도 있다. 같은 상사가 한 면담에서 두 판단을 다룬다면, 각각의 근거를 설명하고 구성원이 그 차이에 대해 의견을 낼 수 있게 해야 한다.
기여를 확인할 때는 모든 클릭을 남기기보다 중요한 변경을 남긴다. AI가 추천한 내용, 사람이 제외한 이유, 품질 경고와 예외 승인 정도다. 이 기록은 사람과 AI의 공로를 정확히 몇 퍼센트씩 나눠 주지는 못한다. 대신 어디에서 판단이 바뀌었는지 확인할 단서가 된다.
잘된 결과에서도 이 흔적을 보고, 나쁜 결과에서도 같은 기준으로 본다. 성공했다는 이유로 필요한 확인을 생략한 행동을 좋은 판단으로 바꾸지 않고, 실패했다는 이유로 당시의 합리적 선택을 곧바로 부주의로 바꾸지 않는 것이다.
흔적을 남기는 일의 비용
모든 인간-AI 작업에 상세 기록이 필요한 것은 아니다. 정해진 양식의 회신을 분류하는 일처럼 위험이 낮고 되돌리기 쉬운 일은 결과와 오류율만 봐도 충분할 수 있다. 기여를 기록하는 시간이 업무시간보다 길어지면 평가체계 자체가 새로운 비용이 된다.
로그가 많다고 인과관계가 저절로 드러나는 것도 아니다. AI 제안을 사람이 받아들인 이유, 보지 못한 대안과 당시 시간압력은 기록에 남지 않을 수 있다. 기여 흔적은 완전한 진실이라기보다 다음 질문을 던지게 해 주는 자료다.
더 큰 위험은 추적이 감시로 변하는 경우다. 사람의 모든 수정과 거절을 평가에 쓰면 구성원은 좋은 판단보다 자신을 보호할 기록을 남길 수 있다.
모델 제공자의 정책과 업데이트처럼 조직 밖에서 바뀌는 조건도 있다. 외부 변화라는 이유로 평가와 학습에서 지울 필요는 없다. 다만 담당자의 잘못을 물으려면 그 변화를 미리 알 수 있었는지, 어떤 대응을 요구했고 실제로 할 수 있었는지를 따로 확인해야 한다.
누구의 성과인가보다 먼저 물을 것
다시 구매팀의 두 보고서로 돌아가 보자.
AI 기반 구매혁신 성과라는 말이 틀렸다고 단정할 수는 없다. AI가 비교 시간을 줄이고 좋은 후보를 찾아 줬을 수 있다. 담당자의 최종 검토가 부족했다는 설명도 사실일 수 있다. 그러나 두 문장만으로는 어느 쪽도 확인되지 않는다.
회사는 구매팀의 공동성과를 평가에 반영하면서도, 불량이 발생한 건에서 담당자의 검토가 부족했는지는 별도로 판단할 수 있다. 그때 필요한 것은 AI와 사람 가운데 누구 편을 들지 정하는 일이 아니다. 추천과 수정이 어떻게 이루어졌고, 당시 무엇을 확인할 수 있었는지에 관한 근거다.
함께 만든 성과를 평가에 넣는다고, 실패를 한 사람의 잘못으로 적어도 되는 것은 아니다.
참고문헌과 주석
-
Göndöcs, D., Horváth, S., & Dörfler, V. (2025). Uncovering the dynamics of human-AI hybrid performance: A qualitative meta-analysis of empirical studies. International Journal of Human-Computer Studies, 205, 103622. https://doi.org/10.1016/j.ijhcs.2025.103622
-
Kleiner, R. L., Stead, S., & Antons, D. (2025). Whom to credit or blame? Understanding attributions and achievement emotions in human-AI teams. Academy of Management Proceedings, 2025(1). https://doi.org/10.5465/AMPROC.2025.335bp
-
Antle, R., & Demski, J. S. (1988). The controllability principle in responsibility accounting. The Accounting Review, 63(4), 700-718. 대학이 공개한 원문 PDF.
-
Zureich, J. (2023). The (Un)controllability principle: The benefits of holding employees accountable for uncontrollable factors. Journal of Accounting Research, 61(2), 653-690. https://doi.org/10.1111/1475-679X.12467
-
Passlack, N., Hammerschmidt, T., & Posegga, O. (2026). With great power comes great responsibility: What shapes AI literacy for responsible interactions of knowledge workers with AI? Information Systems Frontiers, 28, 11-46. https://doi.org/10.1007/s10796-025-10648-5