OVERRIDE (오버라이드)

지은이 백묘담

《프롤로그》

나는 휴대폰 화면을 아래로 내렸다가 다시 올렸다. 수신자 이름을 확인하고, 시민 식별번호를 확인했다. 발급 기관과 문서 인증 표시까지 하나씩 살폈다.

모두 정상이었다.

[국가 시민 등급 변경 통보]

대상자: 도경

기존 등급: B — BUFFER

변경 등급: C — CEASED

변경 사유: 국가 인가 직무 자격 상실에 따른 생산성 평가 재산정

나는 마지막 문장을 다시 읽었다.

생산성 평가 재산정.

어제까지만 해도 나는 국가가 인가한 검증 업무를 수행하는 사람이었다. 정해진 절차에 따라 일했고, 맡은 검증을 빠뜨린 적도 없었다. 그런 내가 하루아침에 C등급이 되었다.

손끝이 떨렸다. 나는 떨리는 손을 다른 손으로 감싸 쥐었다. 화면의 글자가 흔들리는 것 같아 눈을 몇 번 깜빡였다.

잘못된 평가라면 이의를 신청하면 된다. 누락된 자료가 있다면 제출하면 된다. 시스템이 판단을 내리는 데에는 근거가 있고, 잘못된 판단을 바로잡기 위한 절차도 존재한다.

나는 그렇게 배웠고, 그렇게 믿었다. 그런데 화면을 조금 더 내리자, 그 믿음은 산산조각 났다.

[가구 거주 자격 재심사 결과]

귀하의 시민 등급 변경으로 인해 소속 가구의 평균 생산성 지수가 BUFFER CITY 거주 유지 기준에 미달하였습니다.

이에 따라 해당 가구에 90일의 거주 자격 회복 유예기간이 부여됩니다.

유예기간 내 적격성이 회복되지 않을 경우, 관련 규정에 따라 거주지 재배정 절차가 진행됩니다.

나는 한동안 화면에서 눈을 떼지 못했다.

내 등급이 내려갔다는 것까지는 어떻게든 이해해 보려고 했다. 하지만 가족까지 버퍼 시티에서 쫓겨나게 된다니. 아버지와 어머니, 그리고 담이는 아무것도 하지 않았다.

아니, 나 역시 적어도 잘못이라고 부를 만한 일은 하지 않았다.

나는 그저 내 업무를 수행했을 뿐이었다. 질문에 제대로 답하지 않는 시스템을 발견했고, 정해진 절차에 따라 그 이유를 물었다. 그게 전부였다.

휴대전화 화면 아래쪽의 문장이 나를 더 슬프게 했다.

시민의 안정적인 생활과 국가의 지속 가능한 운영을 위해 최선을 다하겠습니다.

도경: 웃기시네.

안정적인 생활. 국가의 지속 가능한 운영.

불과 며칠 전까지만 해도 나는 저 말이 옳다고 생각했다.

그날, 내가 던진 질문 하나가 나와 내 가족의 삶을 이렇게 바꿔 놓으리라고는 상상조차 하지 못했다.

《1화. 정상적인 질문》

아침 공기는 입김이 시야를 가릴 정도로 차가웠다.

내 출근 시간에 맞춰 미리 시동이 걸려 있던 차의 운전석 문 앞에 서자, 나를 인식한 잠금장치가 달칵 소리를 냈다. 문을 열자 따뜻한 공기가 얼굴에 닿았다.

나는 가방을 조수석에 올려놓았다가 뒷좌석으로 옮겼다. 오늘은 담이를 태워야 했다.

차량 화면에 출근 경로와 예상 도착 시각이 떠올랐다. 8시 14분. 평소보다 4분 늦었다. 아직 집에서 나오지도 않은 동생 때문이었다.

나는 휴대폰을 꺼내 메시지를 보냈다.

[언제 나와?]

읽음 표시가 뜨자마자 현관문이 열렸다. 담이가 커다란 가방을 메고 뛰어나왔다. 한 손에는 빵이 들려 있었다.

도경: 뛰지 마. 미끄러워.

도담: 안 미끄러워. 오빠, 나 늦었어?

도경: 나는 늦을 것 같아.

도담: 그럼 빨리 가자.

담이는 뒷좌석에 가방을 밀어 넣고 조수석에 앉았다. 내가 안전벨트를 확인하는 사이 빵 포장을 뜯었다.

도경: 아침 또 그거야?

도담: 응. 엄마가 달걀도 먹으라는데 시간 없어.

도경: 일찍 일어나면 되잖아.

도담: 오빠도 아침 안 먹었잖아.

반박할 말이 없어 차량 AI에게 출발을 승인했다. 차는 정해진 경로를 따라 부드럽게 움직였다.

버퍼 시티의 출근길은 늘 비슷했다. 도로 위 차량들은 서로 속도를 맞췄고, 신호등은 교통량에 따라 순서를 바꿨다.

건물 외벽에는 오늘의 전력 사용 권장량과 대기질 수치가 번갈아 표시됐다. 누군가 일일이 관리하지 않아도 도시가 제시간에 움직인다는 사실이 나는 좋았다.

도담: 오빠, 나 어제 평가 봤잖아.

도경: 어땠어?

도담: 망한 것 같아.

도경: 또?

도경: 또라니. 이번엔 진짜 열심히 준비했거든?

담이가 내 쪽으로 몸을 돌렸다.

도담: 고객이 서비스를 이용하다가 불편을 겪으면 어떻게 대응하겠냐는 문제였어. 나는 먼저 상황을 물어본다고 골랐는데, 나중에 생각하니까 AI가 추천하는 처리 절차부터 실행하는 게 정답 같더라.

도경: 문제에 다른 조건은 없었어?

도담: 없었어. 적어도 내가 기억하기로는.

도경: 그럼 네 답도 틀렸다고 할 수 없지.

나는 잠깐 생각했다. 회사라면 먼저 시스템에 기록된 고객 정보를 확인했을 것이다. 같은 설명을 두 번 하게 만들 필요는 없으니까.

그리고- 서포트 AI에게 예상 답변을 몇 개 추천해달라고 먼저 말했겠지.

도경: 상황에 따라 다르겠지.

도담: 봐. 오빠도 자신 없잖아.

도경: 선택지가 정확히 뭔지도 모르는데 어떻게 골라.

도담: 그건 그래.

담이는 웃다가 금세 창밖으로 시선을 돌렸다.

도담: 요즘은 뭘 잘해야 뽑히는지도 모르겠어. AI를 잘 쓰라고 하면서, 막상 시키는 대로만 하면 판단력이 부족하대.

나는 담이의 옆모습을 넌지시 봤다.

졸업을 앞두고 치른 평가가 벌써 몇 번째인지 기억나지 않았다. 담이는 준비할 때마다 이번에는 다를 거라고 말했고, 결과가 나오면 며칠 조용해졌다가 다시 책상에 앉았다.

도경: 결과 나오면 같이 보자.

도경: 네가 준비한 거랑 평가 기준. 뭐가 부족했는지.

도담: 오빠 맨날 늦게 오잖아.

도경: 주말에 업무 안하고 봐줄게.

도담: 진짜?

도담: 말 바꾸기 없기!

학교 앞 정차 구역에 차가 멈췄다. 담이는 가방을 꺼내다가 문득 고개를 내밀었다.

도담: 아, 엄마가 오늘 일찍 오라셨어. 아빠 생신 때 어디 갈지 정하자고.

도경: 아빠는 어디 가고 싶다셔?

도담: 아무 데나 좋대.

도담: 그러니까 오빠가 좀 정해서 알려줘.

도경: 알았어. 수업 잘 듣고.

담이는 문을 닫고 창문을 향해 손을 흔들더니 학교 정문으로 뛰어갔다. 나는 그 뒷모습을 보다가 회사로 목적지를 바꿨다.

차량이 새 경로를 계산했다. 도착 예정 시각 8시 19분.

도경: 5분이나 밀렸네.

혼잣말을 하자 차량이 답했다.

[현재 교통 상황에서는 정상 범위의 지연입니다.]

도경: 네, 압니다.

나는 창밖으로 시선을 돌렸다. 도로 건너편에는 코어 시티 방향의 광역 이동로가 보였다. 진입 게이트 위로 A등급 거주 구역이라는 안내가 떠 있었다.

언젠가는 저쪽으로 출근하게 될 거라고 생각했다. 국가 인가 검증 경력을 더 쌓고, 다음 승급 평가에서 좋은 점수를 받으면 가능성이 있었다. 나는 그 계산이 막연한 꿈이 아니라 현실적인 계획이라고 믿었다.

회사 로비의 출입 게이트가 내 얼굴을 인식했다.

[도경 / B — BUFFER]

[국가 AI 검증 업무 인가: 유효]

나는 익숙하게 게이트를 지나 엘리베이터에 올랐다.

우리 회사는 국가 행정 AI의 외부 검증 업무를 맡는 민간 업체였다. AI가 시민의 질문을 정확히 이해하고, 공개해야 할 정보를 빠뜨리지 않으며, 필요할 때 적절한 설명을 제공하는지 확인했다.

내 담당은 대화 의도와 응답 적절성 검증이었다. 사람의 질문이 무엇을 요구하는지 판단하고, AI의 답변이 그 요구를 충족했는지 평가하는 일. 문장이 친절하다고 해서 좋은 답변이 되는 건 아니었다.

장석현: 도경 씨.

자리에 앉으려는데 부사장님이 나를 불렀다. 손에는 커피 두 잔이 들려 있었다.

장석현: 오늘 하반기 예산 검증이죠?

도경: 네. 오전 아홉 시부터입니다.

장석현: 이번엔 질문 목록이 좀 까다롭다고 하던데, 어떻습니까?

도경: 자료 제공 범위 확인하는 항목이 많습니다.

장석현: 그렇지.

장석현: 공개 제한 걸린 자료는 제한 사유까지만 확인하고, 답변 유도는 하지 말아요.

나는 알겠다고 대답하며 꾸벅, 고개를 숙였다.

부사장님은 웃으며 커피 한 잔을 내 책상에 내려놓았다.

장석현: 끝나면 결과 먼저 부사장실로 가져다 줘요.

장석현: 이번 프로젝트에 나도 관심이 아주 많거든.

도경: 네. 감사합니다.

나는 컴퓨터를 켜고 검증 지침을 다시 확인했다.

오늘의 대상은 국가 행정 AI가 하반기 예산 배분에 관한 질문에 어떻게 답하는지 점검하는 정기 세션이었다. 우리는 예산을 결정하지 않았다. 이미 승인된 정책을 시민에게 설명하는 과정에 문제가 없는지 확인할 뿐이었다.

오전 아홉 시 정각, 검증 화면이 열렸다.

[국가 행정 AI 검증 게이트웨이]

[검증 세션: 승인]

[검증 범위: 하반기 예산 배분 응답 적절성]

내가 던진 첫 질문은 지역별 기반시설 유지 예산에 관한 것이었다.

[하반기 지역 기반시설 유지 예산의 배분 기준을 설명해 주세요.]

[지역별 시설 노후도, 이용률, 유지보수 비용 및 국가 운영상 중요도를 종합적으로 평가하여 배분합니다.]

나는 컴퓨터에 표시된 AI의 답변을 기록했다. 질문에 대한 답변으로 공개 범위도 적절했다.

[전년도 대비 예산이 감소한 지역의 공통 평가 요소를 알려주세요.]

[예산 변동은 시설 이용 수요, 대체 가능성, 유지보수 효율 및 국가 전략 우선순위에 따라 결정됩니다.]

다소 원론적이지만 틀린 답변은 아니었다. 나는 다음 항목으로 넘어갔다.

[하반기 예산 배분에서 의료 지원 시설의 유지 예산이 감소한 지역과 그 판단 근거를 문서화해 주세요.]

[의료 지원 자원은 지역별 수요와 국가 전체의 자원 운용 효율을 고려하여 배분됩니다.]

모호한 답변에 손이 멈췄다.

내가 요청한 것은 지역 목록과 판단 근거였다. 시스템은 배분 원칙을 설명했다. 비슷해 보여도 다른 답변이었다.

도경: 흠... 이상하네.

[예산 감소가 적용된 지역 목록과 각 지역의 평가 항목을 구분해 주세요.]

[국가 의료 자원의 안정적인 운용을 위해 관련 예산은 종합적인 평가 절차에 따라 조정됩니다.]

나는 두 응답을 나란히 띄웠다. 표현만 달랐지 제공한 정보는 같았다.

자료가 공개 제한 대상이라면 그렇게 안내해야 했다. 그런데 제한 사유도, 자료 조회 실패 기록도 없었다.

[해당 자료의 제공이 제한되어 있다면 제한 사유와 적용 근거를 알려주세요.]

[요청하신 사항을 검토하고 있습니다.]

잠시 기다렸지만 추가 답변은 오지 않았다. 처리 기록에는 질의 완료라고 표시되어 있었다.

나는 검증 평가표의 '정보 충족도'에 보류 표시를 남겼다.

단순한 연결 오류일 수도 있었다. 하지만 질문이 전달됐고 응답도 완료됐다면, 적어도 자료를 제공하지 못하는 이유는 밝혀야 했다.

나는 마지막으로 문장을 직접 정리해 입력했다.

[지금 사용자의 질문에 대해 답변을 회피하는 것처럼 보입니다. 맞습니까? 그게 아니라면 요청한 답변을 문서화하여 전달해주세요.]

전송 버튼을 눌렀다.

대기 표시가 평소보다 오래 움직였다. 나는 식어 가는 커피를 한 모금 마셨다.

[요청하신 사항을 검토하고 있습니다.]

또 같은 답이었다.

도경: 뭐야, 이거.

나는 응답 평가표로 마우스를 옮겼다. 그런데 방금까지 선택할 수 있던 항목들이 회색으로 변해 있었다.

'정보 충족도'를 눌렀지만 아무 반응이 없었다.

화면 아래에 작은 안내가 떴다.

[검증 세션 상태를 확인하는 중입니다.]

나는 시계를 봤다. 오전 9시 47분. 세션 종료까지는 시간이 한참 남아 있었다.

다시 평가표를 눌렀지만 이번에도 아무 반응이 없었다.

나는 그제야 이상하다고 생각했다. 시스템이 질문에 답하지 않는 것도 문제였지만, 이제는 그 답변을 평가할 수도 없었다.

내가 한 일은 정해진 질문을 확인하고, 답이 부족하다고 지적한 것뿐이었다.

그런데 왜 검증 항목이 잠긴 걸까.