가상의 채용팀이 지원서 분류 AI를 검토합니다. 회의에는 개발자와 채용 담당자가 있지만, 결과를 받는 지원자는 없습니다. 이때 빠진 것은 참석자 한 명일까요, 아니면 잘못된 결과를 발견하고 고칠 경로일까요. 사람을 중심에 둔 AI는 결과를 받는 사람의 경험이 다음 설계 판단에 영향을 줄 수 있어야 합니다.
이 질문은 리 페이페이와 존 에체멘디가 함께 쓴 2019년 스탠퍼드 HAI 출범 글에서 출발합니다. 원문의 주장과 아래의 가상 채용 사례를 통한 카이로스의 업무 해석은 구분해 읽어 주세요.
기술에 사람과 사회의 질문을 되돌려야 합니다
두 저자는 2016년 대화에서 HAI의 문제의식이 시작됐다고 회고합니다. 페이페이 리는 기술이 인문학의 연구 방법을 바꾸는 데서 멈추지 말고, 인문학과 사회적 사고도 기술을 만드는 과정에 들어와야 한다고 제안했습니다. 미래의 기술을 만드는 사람들이 수학·컴퓨터과학·공학처럼 비슷한 배경에 몰려 있으면, 다른 분야와 집단이 발견할 문제를 놓치기 쉽다는 판단이었습니다.
이것은 단순히 회의 인원을 늘리자는 이야기가 아닙니다. 원문은 인문·사회과학이 영향을 이해하고, 법·정책·윤리가 개발 방향을 잡고, 의학·예술·디자인이 사람의 능력을 넓히는 응용에 참여해야 한다고 설명합니다. 기술에서 사회로만 향하던 질문을 사회에서 기술로도 돌려보내는 것이 HAI의 출발점입니다.
HAI가 제시한 세 원칙
- 사람에게 미치는 영향을 살피고 예측한다. 사용 후 드러나는 영향까지 연구해 개발 방향에 반영합니다.
- 사람의 능력을 넓힌다. AI 응용은 사람을 무조건 대체하는 목표보다 사람이 더 잘 판단하고 일하도록 돕는 방향을 지향합니다.
- 인간 지능의 깊이에서 배운다. 지능을 좁은 기술 성능으로만 보지 않고 인지과학·심리학·신경과학의 통찰을 연구에 연결합니다.
원문은 편향 탐지, 중환자실 의료 지원, 난민 정착 등의 연구 과제도 소개합니다. 이는 연구를 시작했거나 시도한다는 설명이지, 해당 AI가 실제 현장에서 공정하거나 효과적이라는 검증 결과가 아닙니다. 2019년의 이 글은 HAI의 방향과 계획을 밝히는 출범 글로 읽어야 합니다.
대표성은 참석자 명단보다 정정 경로에서 드러납니다
여기서부터는 카이로스의 적용 제안입니다. 가상의 채용 보조 AI가 지원서를 ‘우선 검토’와 ‘추가 확인’으로 분류한다고 합시다. 채용 담당자는 직접 사용자이고, 지원자는 결과의 영향을 받습니다. 분류가 잘못됐을 때 지원자가 사유를 알 수 있는지, 재검토를 요청할 수 있는지, 사람이 결정을 바꿀 수 있는지에 따라 같은 도구의 의미가 달라집니다.
- 01설계자·채용 담당자
- 02AI의 분류 제안
- 03결과를 받는 지원자
- 04사람의 재검토·정정
가령 경력 공백이 있는 지원서가 ‘추가 확인’으로 밀렸다고 해 봅시다. 담당자가 AI의 제안을 그대로 채택하면, 누가 그 판단을 재검토할 수 있을까요. 재검토 결과 문제가 발견되면 그 지원서만 고치는 데서 끝낼지, 분류 기준과 다음 검토 사례도 바꿀지 정해야 합니다. 영향을 듣는 창구와 실제 결정을 고치는 책임자를 연결해야 사람 중심이라는 목표가 업무 절차가 됩니다.
이는 HAI가 특정 채용 절차를 제시했다는 뜻이 아닙니다. 원문의 세 원칙을 하나의 업무 장면에 옮겨 본 카이로스의 해석입니다. 실제 채용 도구를 평가하려면 당사자의 관점과 더 넓은 사례·영향 자료가 별도로 필요합니다.
이번 주 과제: 영향 경로 카드 한 장
1. 사례와 사람을 고릅니다. 본인의 AI 업무 하나를 정하고, 실제 지원서나 고객 정보 대신 사용 권한이 있는 공개·합성 사례 하나를 만듭니다. 그 사례에서 AI를 직접 쓰는 사람과 결과의 영향을 받는 사람을 구분하고, AI의 제안을 최종적으로 확인·수정·거절할 담당자를 적습니다.
2. 이의 제기와 정정 경로를 그립니다. 영향을 받는 사람이 오류를 어디에 알릴지, 누가 개별 결과를 재검토할지, 반복되는 오류를 누가 분류 기준의 개선 목록에 남길지 연결합니다. 가상의 채용 보조 업무라면 ‘지원자 → 채용 담당자에게 재검토 요청 → 사람의 판단 수정 → 같은 유형의 분류 기준 점검’처럼 한 줄로 써 봅니다.
3. 완료 기준과 보류 조건을 확인합니다. 다른 담당자가 합성 사례를 따라가며 영향받는 사람, 최종 판단자, 정정 책임자를 찾을 수 있으면 이 카드가 완성됩니다. 결과를 설명하거나 재검토할 경로가 없다면 실제 사용을 어느 단계에서 멈출지도 적습니다. 사례 한 건으로 편향이나 공정성이 검증됐다고 결론 내리지는 않습니다.
이 글은 AI의 도움을 받아 작성했습니다. 리 페이페이와 존 에체멘디의 공동 원문, 행사 보도의 발언, 카이로스의 가상 업무 해석을 구분했습니다.
대표 이미지와 본문 도판은 카이로스가 만든 개념 이미지이며 실제 스탠퍼드 HAI의 연구 결과나 시스템을 재현하지 않습니다.