AI가 정해진 JSON 형식으로 답하면 업무 검증은 생략해도 될까요?

AI 응답이 정해진 JSON 구조에 맞더라도 금액, 분류, 근거가 실제 입력과 맞는지는 따로 확인해야 합니다. 업무 자동화에서는 출력 형식 검사와 업무 규칙 검사, 사람이 확인할 예외 경로를 나누는 편을 권합니다.

JSON으로 읽힌다는 것과 약속한 구조라는 것은 다릅니다

OpenAI의 구조화 출력 안내는 JSON mode와 Structured Outputs를 구별합니다. 두 방식 모두 유효한 JSON을 다루지만, 지정한 스키마 준수는 Structured Outputs가 제공하는 기능으로 설명합니다. 이 설명은 해당 API와 지원 조건에 관한 것이며 모든 생성형 AI 제품의 공통 동작이라고 볼 수는 없습니다.

가상으로 비식별 업무 메모에서 작업 종류와 요청 기한을 뽑는다고 해 보겠습니다. JSON 문법은 맞지만 작업 종류가 정해 둔 선택지 밖의 값이거나 필요한 키가 빠지면 후속 처리에 쓸 수 없습니다. 반대로 선택지와 키가 모두 맞아도 메모에 없던 기한을 만들어 넣었다면 사실 검증에서 멈춰야 합니다. 신경망 삽화는 AI 처리 개념을 보여줄 뿐 실제 서비스 화면이나 정확도 자료는 아닙니다.

AI로 생성한 개념 이미지. 실제 사업장 사진이 아닙니다.

필수 항목과 모르는 값의 표현을 먼저 정합니다

JSON Schema의 객체 설명은 properties에 이름을 적는 것만으로 해당 속성이 필수가 되지 않으며, 기본적으로 추가 속성도 허용된다고 설명합니다. 필수 여부와 추가 속성 허용 여부는 별도 규칙으로 정해야 합니다. null 값이 있는 속성과 속성 자체가 없는 상태도 다릅니다.

탱탱소프트는 개발 전에 ‘입력에 기한이 없을 때’를 정상적인 시험 사례로 넣도록 권합니다. 그 경우 null을 쓸지, 별도 확인 상태를 쓸지 업무 규칙을 정한 뒤 실제 API가 지원하는 스키마로 표현합니다. OpenAI 안내는 Structured Outputs가 JSON Schema의 일부를 지원한다고 명시하므로, 일반 JSON Schema에서 가능한 구조를 그대로 모두 사용할 수 있다고 가정하지 않습니다.

서버로 넘기기 전에 어떤 관문을 둘까요?

운영 제안은 세 단계입니다. 먼저 응답이 완료된 정상 출력인지 확인하고, 다음으로 약속한 키와 자료형을 검사하며, 마지막으로 입력 근거와 회사의 업무 규칙을 대조합니다. 안전상 거절 등 정상 출력과 다른 응답은 별도 경로로 처리합니다. OpenAI 문서도 거절을 프로그램에서 식별하는 방법을 안내하고, 구조화 출력에도 오류가 있을 수 있다고 설명합니다.

AI로 생성한 개념 이미지. 실제 사업장 사진이 아닙니다.

가상 메모에서 기한이 빠졌으면 추정 날짜로 업무를 생성하지 않고 확인 대상으로 남깁니다. 추출된 작업 종류가 실제 문장과 어긋나면 담당자가 원문을 볼 수 있게 연결합니다. 외부 발송이나 견적 확정처럼 영향이 큰 동작에는 회사가 정한 승인 단계를 유지합니다. 스키마 통과를 실행 권한으로 취급하지 않는다는 뜻입니다.

청주·충북 기업이 AI 자동화를 의뢰한다면 정상 입력, 정보가 빠진 입력, 서로 모순된 입력을 개인정보 없이 준비해 볼 수 있습니다. 탱탱소프트는 이 자료를 바탕으로 자동 처리 범위와 예외 검토 범위를 온라인으로 협의합니다. 특정 정확도나 인력 절감 수치를 검증 없이 약속하지 않으며, 이번 글은 실제 고객 시스템의 시험 결과가 아닙니다.

참고 자료

• OpenAI: Structured model outputs
• JSON Schema: Object