AI가 없는 것이 아니라, 제조 전반으로 넓게 Scale한 기업이 드물다

CRB의 Horizons: Life Sciences 2026은 전 세계 생명과학 R&D·제조 리더 400명 이상을 조사했다.

BioSpace가 공개한 세부 결과에 따르면 regulated manufacturing에서 AI를 대부분 또는 전체 application에 사용한다는 응답은 1%, 많은 application까지 확장했다는 응답은 8%였다. 합치면 9%다.

몇 개 application까지 Scale하고 있다는 응답은 별도로 17%였다. 따라서 이번 신호는 '제약 제조에 AI가 없다'가 아니라 '광범위한 production scale은 아직 드물다'에 가깝다.

제약업계가 기술 자체를 거부하는 것은 아니다

같은 조사에서 56%는 administrative workflow에 AI를 사용하고 있었고 45%는 drug discovery에서 AI를 사용하고 있었다고 BioSpace는 전했다.

CRB 공식 발표에서도 응답자의 68%가 AI·로봇·자동화가 제조원가를 낮출 것으로 기대했다.

즉 관심과 기대는 존재한다. 병목은 기술을 아느냐보다 규제 제조에 어떻게 넣느냐에 있다.

AI Capability ≠ Validated Operation

일반적인 AI 평가는 정확도, 속도, 비용절감 같은 성능지표에 집중한다.

하지만 제약 제조에서는 어떤 Context of Use에서 쓰는지, 잘못된 판단이 제품 품질과 환자위험에 어떤 영향을 주는지, 누가 결과를 검토하는지, 모델이 바뀌면 무엇을 다시 검증해야 하는지가 함께 따라온다.

기술적으로 작동하는 AI와 GxP 환경에서 반복적으로 사용할 수 있는 운영체계는 서로 다른 단계다.

성능을 높이는 것만으로 해결되지 않는 문제들

CRB 조사 관련 보도에서는 정확도와 품질 우려뿐 아니라 validation standard 부족, accountability 불명확성, transparency와 explainability 문제가 함께 제기됐다.

모델 성능이 좋아져도 책임주체, 사용조건, 변경관리, 추적성이 설계되지 않으면 production system으로 확장하기 어렵다.

규제 제조에서는 모델보다 주변 운영구조가 병목이 될 수 있다.

FDA·EMA 원칙은 Context of Use와 lifecycle을 강조한다

FDA와 EMA는 2026년 Good AI Practice in Drug Development의 10개 원칙을 제시했다.

그 안에는 human-centric by design, risk-based approach, clear context of use, multidisciplinary expertise, data governance and documentation, risk-based performance assessment, life cycle management가 포함된다.

즉 AI를 한 번 검증하고 끝내는 것이 아니라 사용맥락과 위험수준에 맞춰 검증·감독·문서화·재평가를 설계하는 방향이다.

AI Model과 Production Scale 사이에 Validation Architecture가 있다

Banseog는 규제 제조의 AI 경로를 AI Model → Context of Use → Risk Assessment → Validation → Human Oversight → Documentation → Change Control → Monitoring → Production Scale로 본다.

이 단계는 FDA나 CRB가 제시한 하나의 공식 프로세스명이 아니라, 공개된 규제·산업 원칙을 운영 순서로 구조화한 분석 프레임이다.

중간 Gate가 많다는 것은 단순한 규제비용이 아니라 실제 production trust를 만드는 과정이기도 하다.

Human-in-the-loop는 임시 보완이 아니라 Scale Architecture일 수 있다

Human-in-the-loop를 AI가 아직 부족해서 사람이 남아 있는 임시조치로만 볼 필요는 없다.

CRB는 highly regulated setting에서 human-in-the-loop 접근이 AI 확대를 가능하게 하는 중요한 방법이 될 수 있다고 해석했다.

규제 제조에서는 사람이 recommendation을 검토하고 승인하며 그 과정이 기록되는 구조가 오히려 AI의 사용범위를 넓혀주는 Governance Architecture가 될 수 있다.

완전자율보다 ‘검증 가능한 반자동’이 먼저 Scale할 수 있다

AI가 이상징후를 탐지하고 원인 후보를 만들고 조치를 추천한 뒤 숙련자가 검토·승인하고 모든 과정이 기록되는 구조를 생각할 수 있다.

이는 AI가 스스로 공정을 변경하는 완전자율 시스템보다 기술적으로는 덜 자율적이다.

하지만 규제환경에서는 책임과 기록이 명확하기 때문에 먼저 넓게 배포될 가능성이 있다.

AI 제품의 경쟁단위도 Model Performance에서 Operating System으로 이동한다

제약회사에 '정확도 99%'만 제시하는 것으로는 충분하지 않을 수 있다.

어떤 Context of Use로 검증됐는지, validation evidence는 어떻게 제공되는지, audit trail과 승인권한은 어떻게 남는지, 모델 업데이트가 기존 검증에 어떤 영향을 주는지를 함께 설명해야 한다.

그렇다면 경쟁력의 단위는 Model Performance 하나에서 Validated Operating System으로 넓어진다.

희소인재는 AI Engineer 하나로 정의되지 않을 수 있다

규제 제조 AI에는 AI·Data뿐 아니라 Manufacturing Process, GMP·QA, Validation, Regulatory를 연결하는 역량이 필요하다.

FDA·EMA의 Good AI Practice에도 multidisciplinary expertise가 별도 원칙으로 포함돼 있다.

따라서 희소한 사람은 모델을 만드는 사람만이 아니라 그 모델이 GMP manufacturing 안에서 어디까지 판단하고 누가 책임질지를 설계할 수 있는 사람일 수 있다.

43%가 formal plan이 없다는 숫자는 Operational Trust Gap을 보여준다

CRB 공식 발표에 따르면 응답자의 43%는 regulated manufacturing에서 AI를 구현할 formal plan이 없었다.

이를 단순히 업계가 뒤처졌다고 읽을 필요는 없다. 규제 제조에서는 책임과 검증구조 없이 빠르게 배포하는 비용이 훨씬 클 수 있다.

기술의 잠재력을 인정하면서도 실제 운영으로 옮기지 못하는 간극을 Banseog는 Operational Trust Gap으로 본다.

BANSEOG VIEW | AI Capability ≠ Validated Operation

CRB 관련 조사에서 AI를 regulated manufacturing의 많은 또는 대부분 application까지 넓게 Scale한 비율은 9%였다.

문제는 AI가 가능하냐가 아니라 그 판단을 어떤 맥락에서 검증하고, 누가 감독하며, 모델 변화와 기록을 어떻게 관리할 수 있느냐에 있다.

규제산업에서 다음 경쟁은 가장 강한 모델만의 경쟁이 아니라 가장 빨리 Validated Operation을 만들어내는 기업의 경쟁이 될 수 있다.

BANSEOG VIEW

Banseog View — AI Capability ≠ Validated Operation

광범위한 regulated manufacturing AI scale은 아직 9% 수준이며, 일부 application까지의 scale 17%와 구분해야 한다.

Human-in-the-loop는 AI의 임시 한계가 아니라 validation·oversight·auditability를 가능하게 하는 Scale Architecture가 될 수 있다.

희소역량은 AI만이 아니라 AI × Manufacturing × GMP/QA × Validation × Regulatory의 교차점에서 나타날 수 있다.

SOURCES

근거가 된 원자료

광범위한 Scale 9%는 1% most/all applications와 8% many applications를 합친 값이며, 17%의 few applications scale과 구분했다. AI Capability ≠ Validated Operation, Validation Architecture, Operational Trust Gap, Validated Operating System은 CRB나 FDA의 공식 명칭이 아니라 공개 근거를 구조화한 Banseog의 분석 프레임이다.