[의학신문·일간보사=김자연 기자] 연초부터 많은 제약사들이 신약 연구개발과 관련해 AI 협력 제휴 체결에 열을 올리는 가운데 미국과 유럽의 규제 당국이 의약품 개발의 AI 이용에 있어서 10대 원칙을 발표했다.

이는 의약품 개발에 있어서 AI의 안전하고 책임적인 이용을 촉진하기 위한 중요 원칙으로 FDA와 EMA와 수개월간 협력한 결과물이다.

이에 따르면 AI는 의약품의 전임상, 임상, 시판-후, 제조 등 라이프 사이클에 걸쳐서 근거를 산출하거나 분석하는데 이용되는 시스템 수준의 기술로 정의됐다.

이에 대해 FDA는 국제적으로 의약품 개발 AI 품질 기준의 근간을 놓기 위해 개발된 원칙이라고 설명했다.

이에 따르면 우선, 인간-중심 디자인이 중요한데 AI 기술의 개발 및 이용은 윤리와 인간-중심적 가치와 맞아야 한다.

둘째, AI 기술의 개발 및 이용은 이용 맥락과 모델의 위험성을 바탕으로 검증, 위험 완화, 감독 역시 비례하는 위험-기반적 접근을 따라야 된다.

셋째, AI 기술은 관련된 법적, 윤리적, 기술적, 보안 및 GxP 등 규제적 표준을 준수해야 된다.

넷째, AI 기술은 역할, 범위, 목적 등의 이용 맥락이 명확하게 잘 정의돼야 한다.

다섯 번째, AI 기술 및 이용 맥락에 관해서 기술의 라이프 사이클에 걸쳐 다학제 전문성이 통합돼야 한다.

여섯 번째, 데이터 거버넌스와 기록에 있어서 데이터 원천 출처, 처리 단계, 분석 결정이 GxP 요구에 맞게 상세하고 추적 및 검증 가능한 방식으로 기록돼야 한다.

또한 기술의 라이프 사이클에 걸쳐서 민감한 데이터에 대해 프라이버시 및 보호 등 적절한 거버넌스가 유지돼야 한다.

일곱 번째, 모델 디자인 및 개발에 관해 AI 기술 개발은 모델 및 시스템 디자인과 소프트웨어 엔지니어링 및 용도에 맞는 데이터 활용에 있어서 해석력, 설명가능성, 예측성능을 고려해 모범 사례를 따라야 된다.

또 우수한 모델 및 시스템 개발은 환자의 안전성에 기여하기 위해 투명성, 신뢰성, 일반화 가능도, 견고성을 고취한다.

여덟 번째, 전체 시스템의 성능을 위험성을 바탕으로 평가해야 된다. 즉 적절하게 디자인된 검사 및 평가 방식을 통해 인간과 AI의 상호반응, 맥락적으로 의도된 용도에 맞는 데이터 및 측정기준 사용 등을 예측 성능 검증을 통해 뒷받침해야 한다.

아홉 번째, 기술의 라이프 사이클에 걸쳐서 문제 포착, 평가, 해결 등 위험-기반 품질 관리 시스템을 실시해야 된다.

특히 AI 기술은 데이터 드리프트 등을 해결하는 등 적절한 성능을 보장하기 위해 예정된 모니터링 및 정기적 재평가를 거쳐야 된다.

마지막으로 AI 기술의 사용 맥락, 성능, 한계, 기저 데이터, 업데이트, 설명가능성에 관해서 맥락적으로 관련 있는 정보를 명확하고 접근 가능하게 제시하기 위해 사용자, 환자 등 의도한 청중에 대해 평이한 언어를 사용해야 된다.