
제약 제조에서 AI를 공정 감시나 품질 판단에 활용하기 시작하면, 첫 질문은 “모델 정확도가 몇 퍼센트인가?”가 되기 쉽습니다. 그러나 운영에서 더 어려운 질문은 모델이나 입력이 바뀐 뒤에도 같은 공정 판단을 설명할 수 있는가입니다. 센서 위치, 공정 조건, 배치 범위, 원료·설비 변경, 모델 버전이 함께 바뀌면 단순한 소프트웨어 배포가 아니라 공정과 품질 판단의 변경이 됩니다.
FDA가 공개한 Artificial Intelligence in Drug Manufacturing 논의 문서는 연속적으로 업데이트되는 AI 제어 모델의 검증 전략, 실사에서의 모델 생애주기 확인, AI가 제조 조건을 바꾼 뒤 생물학적 제품의 비교 가능성을 어떻게 판단할지 질문을 제기합니다. 이 문서는 최종 가이드나 승인 목록이 아니라, 제조업체가 규제·품질 체계와 함께 검토해야 할 쟁점을 제시한 자료입니다. 이 글은 그 쟁점을 실제 변경관리 업무로 번역해 봅니다.
제조 AI에서 먼저 정할 것: 변경의 경계
이 글은 새 규제 발표를 소개하는 글이 아닙니다. 2023년 FDA 논의 문서가 제기한 제조 특유의 문제를 바탕으로, 이전 AI 파일럿 이후의 운영 기준에서 한 단계 더 들어가 공정 조건과 제품 결과의 비교에 집중합니다. 아래 표와 실행 순서는 이 글에서 제안하는 검토 방법이며 규제기관의 필수 양식이 아닙니다.
AI를 기존 공정에 붙일 때는 다음 세 가지를 분리해 기록해야 합니다.
| 구분 | 예시 | 먼저 정할 질문 |
|---|---|---|
| 모델 변경 | 재학습, 임계값, 프롬프트, 알고리즘 버전 | 결과의 사용 목적과 허용 범위가 바뀌는가? |
| 데이터·공정 변경 | 센서 교체, 원료 공급자, 배치 규모, 공정 단계 | 입력 분포와 공정 결과의 비교 가능성이 유지되는가? |
| 업무 변경 | 경보 검토자, 승인 단계, 기록 양식, 수동 대체 절차 | 사람의 판단·책임·기록이 달라지는가? |
세 변경을 하나의 “AI 릴리스”로 묶으면 원인을 찾기 어렵습니다. 모델은 그대로인데 센서 보정 방식이 바뀐 것인지, 입력은 같지만 검토 기준이 바뀐 것인지, 실제 품질 변화가 모델 오류처럼 보이는 것인지 구분할 수 있어야 합니다.
1. 사용 목적과 영향 범위를 한 문장으로 고정하기
같은 알고리즘도 목적에 따라 검토 수준이 달라집니다. “배치 검토자가 이상 징후를 먼저 볼 수 있도록 후보를 정렬한다”와 “공정 파라미터를 자동으로 조정한다”는 책임과 영향 범위가 다릅니다. 전자는 검토 보조로 제한할 수 있지만, 후자는 공정 상태와 제품 품질에 직접 영향을 줄 수 있습니다.
변경 요청에는 최소한 다음 항목을 둡니다.
- 사용 목적과 자동화하지 않는 판단
- 영향을 받을 제품·공정·설비·배치 범위
- 결과를 검토하고 승인하는 역할
- 입력 데이터의 출처·버전·시간 범위
- 문제가 생겼을 때 수동 절차로 돌아가는 방법
이 기록은 AI가 규제기관의 승인을 받았다는 뜻이 아닙니다. 조직이 어떤 범위에서 사용하고 무엇을 사람이 최종 확인하는지 합의하는 내부 기준입니다.
2. 모델 업데이트보다 먼저 공정 비교 기준을 정하기
FDA 논의 문서가 던지는 중요한 질문은 AI 제어 모델이 업데이트된 뒤에도 제조 조건과 제품 결과를 비교할 수 있는가입니다. 모델 버전만 비교하면 충분하지 않을 수 있습니다. 다음 맥락이 함께 바뀌었는지 확인해야 합니다.
| 확인 대상 | 비교할 기록 | 보류 조건 |
|---|---|---|
| 공정 입력 | 원료·설비·센서·환경 조건 | 변경 전후 조건이 정의되지 않음 |
| 모델 결과 | 예측·경보·추천값과 근거 | 결과의 단위·임계값·버전이 불명확함 |
| 제품·공정 결과 | 배치 기록·시험 결과·편차·조치 | 비교 대상 배치와 기간이 일치하지 않음 |
| 사람의 검토 | 승인·반려·수정·예외 사유 | 담당자나 승인 흐름이 바뀌었으나 교육·기록이 없음 |
비교 가능성은 “이전 모델과 새 모델의 출력이 비슷한가”보다 넓습니다. 같은 배치에 두 모델을 돌리는 병행 비교가 필요할 수도 있고, 공정 조건이 달라졌다면 별도의 영향 평가와 표본 계획이 필요할 수도 있습니다. 데이터가 충분하지 않다면 통과 결론보다 제한된 범위의 추가 관찰을 선택하는 것이 더 정직합니다.
비교를 깨뜨리는 동시 변경을 찾기
변경관리에서 자주 빠지는 항목은 모델 입력의 계보입니다. 원본 센서 값이 어느 수집기와 시간대에서 왔는지, 보정·단위 변환·결측 처리 규칙이 어느 버전인지, 모델 입력으로 선택된 시점과 제외된 시점이 무엇인지 연결해야 합니다. 값의 출처를 설명하지 못하면 모델 결과가 맞더라도 품질 검토자는 그 결과를 다시 확인하기 어렵습니다.
변경 기록에는 기술 담당자만 서명하지 않는 편이 좋습니다. 제조 담당자는 공정과 배치 영향 범위를 확인하고, 품질 담당자는 검증·기록·복구 기준을 검토하며, 데이터·기술 담당자는 입력과 버전의 변경을 설명합니다. 책임을 세 역할로 나누라는 뜻이 아니라, 한 사람이 여러 역할을 맡더라도 어떤 판단을 어떤 관점에서 했는지 구분하라는 뜻입니다.
예를 들어 센서를 교체한 주에 모델도 재학습했다면 경보 감소를 모델 개선으로 설명하기 어렵습니다. 가능하다면 동일한 원본 입력에 기존 모델과 후보 모델을 적용해 모델 차이를 먼저 살피고, 센서 변경의 영향은 별도로 검토합니다. 두 조건을 분리할 기록이 없다면 무엇을 비교할 수 없는지 명시하고 추가 자료를 확보해야 합니다. 이 병행 비교도 제품의 비교 가능성이나 출하 적합성을 단독으로 입증하지는 않습니다.
3. 검증 범위는 위험과 변경 유형에 맞춰 나누기
ISPE의 Digital Validation – Future Advances 공개 소개는 디지털 데이터 접근, 위험 기반 방법론, 검증 상태의 모니터링을 연결해 설명합니다. 2025년 5월 6일 발행된 백서의 소개·목차를 확인한 범위이며, 접근하지 못한 본문의 구체적인 시험 방법은 인용하지 않았습니다. 이는 산업 관점이지 규제기관의 요구사항이나 특정 도구의 승인이 아닙니다.
실무에서는 변경을 다음처럼 나눠 검토할 수 있습니다.
- 표시·보고 변경: 화면 문구나 보고서 형식만 바뀌는지, 판단에 쓰이는 값은 같은지 확인합니다.
- 데이터 연결 변경: 태그·단위·시간·매핑·권한이 달라졌는지 확인하고 대표 표본으로 누락과 변환을 재검증합니다.
- 모델·규칙 변경: 재학습 자료, 알고리즘, 임계값, 프롬프트와 사용 목적의 영향을 함께 평가합니다.
- 공정 제어 변경: AI 결과가 설비나 공정 조건에 직접 영향을 주는지 확인하고, 제한 범위·수동 개입·비상 중단을 별도로 승인합니다.
모든 변경에 같은 시험을 적용할 필요는 없습니다. 대신 왜 해당 범위의 검증을 선택했는지, 어떤 위험은 다루지 못했는지, 운영 후 무엇을 다시 볼지 기록해야 합니다.
가상의 적용 장면: 공정 경보 보조를 업데이트하는 경우
가상의 제조팀이 배양 공정의 온도·압력·교반 데이터를 바탕으로 “추가 검토가 필요한 배치”를 표시하는 보조 기능을 운영한다고 하겠습니다. 새 모델은 경보를 줄이기 위해 최근 배치 데이터를 추가 학습했습니다.
팀은 먼저 학습 데이터가 기존 배치와 어떤 점에서 다른지 확인합니다. 센서 교체 이후의 값이 포함됐는지, 측정 단위와 보정 규칙이 같은지, 정비·세척 구간이 일반 운전 데이터에 섞이지 않았는지 살핍니다. 새 모델과 기존 모델의 경보 차이를 같은 배치에 적용해 비교하되, 그 결과를 품질 적합성 판단으로 자동 승격하지 않습니다.
운영 진입 후에는 다음 기록을 묶어 봅니다.
- 모델·데이터 매핑·임계값 버전
- 경보 발생 시점과 관련 배치·공정 단계
- 담당자의 확인·반려·추가 조사 사유
- 배치 기록·시험 결과·편차·CAPA와의 연결
- 이상이 발생했을 때 이전 모델 또는 수동 검토로 전환한 기록
특정 배치군에서 경보가 줄었다고 해서 공정이 개선됐다고 바로 결론 내릴 수는 없습니다. 입력 데이터가 누락됐거나 검토자가 경보를 덜 기록했을 가능성도 있기 때문입니다. 결과를 업무 기록과 함께 확인해야 원인과 효과를 구분할 수 있습니다.
이 예시의 승인 결과는 새 모델의 전면 적용만을 뜻하지 않습니다. 한 설비에서 수동 검토를 유지하며 추가 관찰하거나, 특정 배치군을 제외하거나, 입력 기록을 보완할 때까지 보류할 수 있습니다. 조건부 적용이라면 관찰 종료일, 중단 기준, 다음 평가 책임자를 함께 정합니다.
도입·보류 판단 체크리스트
- AI의 사용 목적과 자동화하지 않는 판단이 한 문장으로 정리되어 있는가
- 모델·데이터·공정·업무 변경이 서로 구분되어 기록되는가
- 변경 전후 비교에 사용할 배치·공정·제품 결과가 정의되어 있는가
- 센서·단위·시간·매핑·권한 변경을 추적할 수 있는가
- 담당자의 검토·반려·승인과 예외 사유가 남는가
- 성능 저하나 공정 영향이 의심될 때 수동 절차로 복구할 수 있는가
- FDA 논의 문서와 ISPE 권고를 조직의 법적 요구사항과 구분했는가
처음부터 모델 검증 문서를 크게 만드는 것보다, 현재 파일럿이나 운영 중인 공정 보조 하나를 골라 변경 경계를 그려 보는 편이 좋습니다. 어떤 변경이 발생하면 다시 평가해야 하는지, 비교할 원본 기록은 어디에 있는지, 누가 중단과 재개를 승인하는지 정리하면 다음 단계가 보입니다. 데이터의 의미·버전·접근 권한이 정리되지 않았다면 AI 활용 데이터 준비를, 사람과 AI의 승인·예외 경계가 불분명하다면 프로세스 리디자인을 먼저 점검할 수 있습니다.
참고한 공식·산업 자료
- FDA, Artificial Intelligence in Drug Manufacturing — 2023년 공개 논의 문서. 연속 업데이트 모델의 검증 전략과 제품 비교 가능성 쟁점을 제시합니다. 2026-10-26 확인.
- ISPE, Digital Validation – Future Advances — 2025-05-06 발행 백서. 공개 소개·목차만 사용했으며 본문 전체는 확인하지 않았습니다. 2026-10-26 확인. 별도 갱신일은 확인하지 못했습니다.
참고 범위에서 제외한 자료도 있습니다. FDA의 Computer Software Assurance for Production and Quality Management System Software는 2026-02-03 발행된 최종 가이드로, 의료기기 생산·품질경영시스템 소프트웨어에 관한 비구속적 권고입니다. 제약 제조 AI에 직접 적용되는 가이드로 사용하지 않았습니다. FDA 2023년 논의 문서 또한 초안·최종 가이드가 아니며 당시의 규제나 정책을 전달하려는 문서가 아니라고 명시합니다. 이 글의 실행 제안은 관할과 제품별 적용 요건 검토를 대신하지 않습니다.