AI가 초안을 만드는 것과 그 초안을 실제 업무에 반영하는 것 사이에는 여러 단계가 있습니다. 우리는 그중 어디를 맡기고, 어디서 내용을 확인할 수 있을까요? “자동화할 것인가”라는 큰 질문을 구체적인 작업 단위로 바꿔 볼 필요가 있습니다.
2025년 6월 17일 AI Startup School 강연에서 카파시는 소프트웨어의 변화와 부분 자율성을 이야기했습니다. Y Combinator가 6월 18일 공개한 공식 영상에서 사람과 AI가 함께 일하는 구간을 중심으로 읽겠습니다.
자연어로 프로그램하고, 결과를 사람이 확인합니다
2017년에 신경망을 Software 2.0이라고 설명했던 카파시는 이 강연에서 자연어로 LLM에 지시하는 방식을 Software 3.0으로 소개합니다. 모델에는 강점과 함께 실수하는 특성이 있으므로, 사람과 어떻게 협업할지 묻습니다. 공식 영상 01:25부터
제품 안에 맡기는 범위를 조절할 자리를 둡니다
공식 영상의 ‘partial autonomy’ 구간은 AI가 일부 작업을 수행하고 사람이 관여하는 제품을 다룹니다. 이어 사람과 AI의 협업 과정, 맡기는 범위를 조절하는 ‘autonomy sliders’를 설명합니다. 모든 단계를 한 번에 위임하기보다, 사용자가 개입할 수 있는 제품을 생각하게 합니다. 18:22부터
만드는 일과 확인하는 일을 함께 봅니다
강연은 사람과 AI의 협업 흐름을 별도 주제로 다룹니다. 생성된 결과를 사람이 확인하고 다시 이어 가는 과정까지 제품 설계에 포함하는 관점입니다. 23:40부터
“partial autonomy” — 부분 자율성
“autonomy sliders” — 맡기는 범위를 조절하는 장치
위 영어 표현은 공식 영상의 장 제목에서 가져왔습니다. 이 강연은 제품 설계에 관한 제안이며, 특정 비율로 업무를 나누면 성과가 좋아진다는 실증 결과는 아닙니다.
맡길 범위는 작업 단계마다 정할 수 있습니다
여기서부터는 카이로스의 적용 제안입니다. 하나의 업무도 자료 정리, 초안 작성, 검토, 확정, 전달로 나눌 수 있습니다. 각 단계에서 필요한 근거와 결정의 무게가 다르므로, AI에 맡길 범위를 한 번에 정하지 않아도 됩니다.
가상의 예로 교육 제안서 초안을 생각해 보겠습니다. 공개된 과정 정보를 정리하고 목차 후보를 만드는 일은 AI의 도움을 받을 수 있습니다. 다만 고객의 요청을 확정하고, 운영 일정을 약속하고, 제안서를 보내는 시점에는 담당자의 판단이 필요합니다. 구체적인 권한은 조직의 정책과 계약 조건에 맞춰 정해야 합니다.
| 업무 단계 | AI가 도울 일 | 사람이 확인할 근거 |
|---|---|---|
| 자료 정리 | 요구와 질문을 나눠 정리 | 실제 요청 문장과 출처 |
| 초안 작성 | 구성안과 대안을 작성 | 범위, 가정, 빠진 조건 |
| 내용 확정 | 대안의 차이를 표시 | 우리가 이행할 수 있는 약속 |
| 다음 단계로 전달 | 승인된 내용을 형식에 맞추기 | 최종본과 전달 권한 |
교육 제안서는 역할을 설명하기 위한 가상 사례입니다. 카파시가 강연에서 사용한 사례나 실제 수행 결과가 아닙니다.
확인 버튼 앞에 판단에 필요한 정보가 있어야 합니다
“승인하시겠습니까?”라는 질문만으로는 사람이 무엇을 봐야 하는지 알기 어렵습니다. 저는 확인 지점마다 세 가지가 보여야 한다고 봅니다. 무엇이 바뀌었는지, 무엇을 근거로 바꿨는지, 그대로 진행하면 어디에 영향을 주는지입니다.
사용자가 원문을 다시 찾아야 하거나, 수정된 문장을 알아보기 어렵다면 확인 과정부터 손볼 수 있습니다. AI가 변경 요약을 만들더라도 실제 변경과 대조해야 합니다. AI의 설명이 확인 자체를 대신하지는 않습니다.
처음에는 좁은 범위를 맡겨 보고, 사람이 자주 수정한 지점을 기록할 수 있습니다. 반복해서 확인되는 조건은 다음 요청에 반영합니다. 예외가 생기면 맡기는 범위를 다시 줄일 수도 있겠지요. 범위는 현장의 기록을 보고 조정하는 선택입니다.
업무 한 건의 ‘확인할 자리’를 표시해 보세요
산출물은 다섯 줄 안팎의 역할표입니다. “사람이 최종 검토”라고 끝내지 말고, 어느 단계에서 무엇을 보고 판단할지 적어 봅니다.
- 반복하는 업무를 실제 순서대로 나눕니다.
- 단계마다 AI가 만들 결과물을 하나씩 적습니다.
- 다음 단계로 넘기기 전에 사람이 볼 근거를 적습니다.
- 근거가 부족할 때 멈추고 누구에게 물을지 정합니다.
단계:
AI가 만들 결과물:
사람이 볼 원자료와 변경 내용:
진행해도 되는 조건:
조건이 충족되지 않았을 때 할 일:
최종 판단 담당자:
확인은 이 질문으로 마칩니다. 다른 담당자가 이 표만 보고도 언제 무엇을 확인해야 하는지 알 수 있나요? “문제없으면 진행”처럼 해석이 갈리는 문장은 관찰 가능한 조건으로 바꿔 보세요.
업무에서 남은 판단과 예외는 다음 작업에도 쓰일 수 있습니다. 2026년 LLM Wiki 제안은 그 기록을 어떻게 연결할지 생각하게 합니다.
AI의 도움을 받아 작성하고 원문과 대조했습니다. 대표 이미지는 카이로스가 생성한 개념 이미지입니다.