한국보건의료정보원 원장, 한은진 세브란스병원 진료지원간호팀 전문간호사, 이의규 바른 변호사, 양광모 성균관대 의과대학 교수, 민규홍 서울성모병원 정보전략팀장, 배기원 갈렙앤컴퍼니 이노베이션센터장 [사진=법무법인 바른]
병원의 인공지능(AI) 도입이 확산되는 가운데, 논의의 무게중심을 '무엇을 도입할 것인가'에서 '어떻게 관리하고 정착시킬 것인가'로 옮겨야 한다는 제언이 나왔다.
법무법인 바른은 (주)갈렙앤컴퍼니와 함께 지난 8일 서울 서초구 엘타워 별관 5층 멜론홀에서 '제1회 AI 혁신 리더스 포럼 – 병원 AI 대전환과 도약: 데이터·거버넌스에서 임상 솔루션까지'를 공동 개최했다고 9일 밝혔다.
한국보건의료정보원과 에이아이네이션·정원엔시스가 협력 파트너로 참여했으며, 종합병원급 이상 및 관련 의료기관의 경영·기획·IT 실무자 등 100여 명이 참석한 가운데 진행됐다.
'AI 거버넌스의 전환'을 주제로 한 첫 번째 세션에서 양광모 성균관대학교 의과대학 교수(삼성서울병원 AI연구센터장)는 '병원 AI 대전환의 핵심 – 데이터가 흐르는 병원' 발표를 통해 현장의 구조적 단절을 진단했다. 양 교수는 "병원 AI가 성능 검증을 통과해도 실제 업무로 이어지지 못하는 간극이 크다"며 기관 간(영상 공유의 표준·범위 한계), 업무 간(분산된 채널과 수작업 분류·배정), 평가 간(지표 정의와 실적 데이터의 불일치) 단절을 핵심 문제로 꼽았다.
그는 독일 병원개혁법, 영국 NHS App 중심 10년 계획, 국내 상급종합병원 구조전환 지원사업 등 국내외 제도 변화 역시 '필요한 정보의 정의와 연결'을 공통적으로 요구하고 있다고 짚었다.
해법으로는 표준-데이터-AI 판단-업무 실행-성과평가로 이어지는 '데이터가 흐르는 운영체계'를 제시했다. 양 교수는 삼성서울병원 컨소시엄의 환자 중심 의료영상 공유(6개 기관, 총 938건 교류), 원내 온프레미스 LLM을 활용한 진료의뢰 자동 분류(전자 진료의뢰서 6624건 분석, 담당자 배정 일치율 75.4%→전문가 재판정 후 84.7%), 의뢰·회송 통합 시스템 'S-CARENet' 등 현장 사례를 소개했다.
그는 "AI의 판단 이후 누가·어디서·어떻게 처리할지를 사전에 설계하고, 사람의 최종 확인(Human-in-the-loop)을 전제로 데이터·AI·업무·평가를 하나로 연결해야 한다"며 경영·기획·IT 부서의 역할 분담을 강조했다.
안주현 바른 변호사는 '국내 AI 규제와 병원의 대응 – 규제와 법으로 읽는 AI 실행의 체크포인트' 발표에서 병원이 마주한 규제 지형을 진단했다. 안 변호사는 "병원 AI는 하나의 법이 아니라 인공지능기본법과 디지털의료제품 규제, 개인정보보호법 등 여러 법률의 규제를 동시에 받는다"며 "규제의 대상은 모델 자체가 아니라 데이터 처리와 임상적 사용행위의 결합"이라고 강조했다. 같은 진료지원 기능이라도 표시·광고와 실제 사용 맥락에 따라 의료기기 허가 등 규제 경로가 달라질 수 있다는 점도 지적했다.
대응책으로는 활용 국면별 점검 기준을 제시했다. 생성형 AI를 의무기록 작성이나 환자 안내에 활용할 때는 환자 식별정보 제거, 내부망·보안형 AI 사용, AI 사용 사실 고지 등 개인정보 체크포인트를 지켜야 하고, 가명정보·보건의료데이터의 처리·반출·결합·관리 절차도 사전에 설계해야 한다는 것이다. 안 변호사는 "병원 AI 거버넌스는 도입 전과 운영 중, 변경 시 모두 작동하는 상시 체계여야 한다"며 AI 규제뿐 아니라 의료기기·개인정보·의료법을 아우르는 종합적 법·제도 대응의 필요성을 강조했다.
'AI 전략과 솔루션'을 주제로 한 두 번째 세션에서 배기원 갈렙앤컴퍼니 이노베이션센터장은 '병원 AX 전략과 거버넌스 – A to Z' 발표에서 도입 실패의 패턴을 진단했다. 배 센터장은 "도입은 늘고 있는데 누가 승인하고 누가 책임지는지가 불명확하다"며 검증-현장 괴리, 경보 피로, 사후관리 부재에 따른 성능 저하(드리프트), 편향, 벤더 종속, 책임·거버넌스 공백, 지속가능성 단절 등 이미 나타난 '7대 실패'의 공통 원인을 '거버넌스 공백'으로 지목했다. 모든 AI를 같은 강도로 심의하면 현장이 규제를 우회해 '그림자 AI(Shadow AI)'가 늘어난다고도 했다.
해법으로는 "원내에 산재한 AI를 파악하는 인벤토리 작업이 첫걸음"이라며 위험도에 비례한 차등 심의와 전담조직·다층 거버넌스 체계를 제시했다. 그는 "잘 만든 거버넌스는 도입 속도를 늦추지 않고 오히려 앞당긴다"며 "규제 대응을 비용이 아니라 도입 속도의 문제로 보고 경영진이 판단해야 한다"고 제언했다.
이세라 에이아이네이션 팀장은 '임상 현장에서 태어난 AI – 욕창 솔루션 공동개발기'를 통해 현장의 고민을 진단했다. 이 팀장은 "욕창 관리는 병변마다 측정·촬영·단계 판단·기록을 반복하는 노동집약적 업무"라며 현장에서 수집한 데이터의 정제 난제와 '치유된 욕창'을 피부염 등 유사 병변과 구분하기 어려운 문제를 공유했다.
그는 연세 세브란스병원과 21개월간 공동 개발한 욕창 단계별 AI 검출 솔루션의 여정을 소개하며, 3만여 개(3만3011건) 병변 데이터의 라벨링과 분류체계·평가기준 정의, 촬영-추론(병변 영역 분할·단계 분류)-결과 확인의 3단계 처리 과정을 설명했다. 이 팀장은 "벤더가 파는 제품이 아니라 현장과 함께 만든 기록"이라는 점을 강조했다.
권찬영 정원엔시스 AI 전략실장은 '실시간 진단 보조 AI' 발표에서 실시간 영상 AI의 본질을 짚었다. 권 실장은 "동영상은 결국 연속된 정지영상으로, 초당 30장(30fps)이라면 검출 AI는 1초에 30번의 독립된 판단을 내린다"며 단일 프레임 검출에 의존할 경우 표시 마커가 깜빡이거나 흐린 프레임에서 오탐이 생기는 한계를 진단했다.
해법으로는 프레임 간 시간축(Temporal)에서 동일 병변이 연속 검출되는지를 추적해 신뢰도를 확보하고, 흐린 프레임은 추론을 생략(Skip)해 깜빡임 없는 부드러운 검출을 구현하는 방식을 제시하며 내시경 실시간 용종 검출(CADe)·진단 보조(CADx) 사례를 소개했다.
패널토론에서는 이준희 바른 기업전략연구소장이 좌장을 맡고 김경윤 AWS Healthcare 수석, 민규홍 서울성모병원 스마트병원 총괄 정보전략팀장, 이의규 바른 변호사, 한은진 세브란스병원 진료지원간호팀 전문간호사가 패널로 참여해 병원의 역할 변화와 데이터·거버넌스 과제가 집중적으로 다뤄졌다.
민규홍 서울성모병원 정보전략팀장(대한병원정보협회 사무총장)은 "병원은 병을 치료하는 곳에서 예방과 선제적 관리까지 아우르는 건강관리의 장으로 변해야 한다"며 "개인 의료정보를 본인에게 제공하는 동시에 적법한 절차를 거쳐 AI 연구에 활용하고 이를 다시 진료로 선순환시켜야 하며, 이를 위해 표준화·정제·품질관리를 거친 'AI-Ready 의료데이터'를 갖추는 것이 급선무"라고 강조했다. 그는 실제 AI 전환의 공통 과제로 분산된 데이터를 접근·통제 가능한 구조로 전환하는 일과 기존 데이터의 구조·의미를 보강하는 일을 꼽았다.
이의규 바른 변호사는 "AI 거버넌스의 핵심은 병원이 사용하는 AI를 파악해 위험 수준에 따라 승인·검증·모니터링 절차와 책임자를 정하는 것"이라며 "행정지원 AI와 진료에 영향을 미치는 AI를 구분하고, 의료진의 최종 판단권을 보장하며, 검증·변경·사고 대응 과정을 기록으로 남기는 컴플라이언스 체계가 필요하다"고 제언했다. 이어 "이러한 거버넌스는 규제가 아니라 안전한 AI의 신속한 도입을 위한 기반"이라고 덧붙였다.
염민섭 한국보건의료정보원 원장은 "의료 AI의 경쟁력은 알고리즘만으로 만들어지지 않으며, 양질의 데이터와 표준, 안전한 연계·활용체계가 함께 갖춰질 때 비로소 실제 의료현장의 혁신으로 이어진다"고 강조했다. 이어 정부의 AI 기본의료 전략과 공공의료 AI 고속도로, 건강정보고속도로(의료 마이데이터), 국가통합바이오빅데이터 사업 등을 소개하며 "한국보건의료정보원도 의료데이터와 AI를 통해 국민이 체감할 수 있는 의료혁신을 만들어가는 데 함께하겠다"고 밝혔다.
이동훈 바른 대표변호사는 "의료 AI의 성공적인 도입을 위해서는 AI 규제뿐 아니라 디지털의료제품 및 의료기기 관련 규제, 개인정보 보호와 의료데이터 활용, 의료법 등 다양한 법·제도에 대한 종합적 대응이 필수적"이라며 "바른은 그동안 디지털 헬스케어, 개인정보·데이터, AI 규제, 의료기관 자문 분야에서 전문성과 업무 경험을 축적해 온 만큼 병원과 의료기관이 AI 전환의 각 단계에서 직면하는 법적 쟁점을 선제적으로 점검하고 해결하는 전략적 파트너로서의 역할을 충실히 수행할 것"이라고 말했다.
법무법인 바른은 (주)갈렙앤컴퍼니와 함께 지난 8일 서울 서초구 엘타워 별관 5층 멜론홀에서 '제1회 AI 혁신 리더스 포럼 – 병원 AI 대전환과 도약: 데이터·거버넌스에서 임상 솔루션까지'를 공동 개최했다고 9일 밝혔다.
한국보건의료정보원과 에이아이네이션·정원엔시스가 협력 파트너로 참여했으며, 종합병원급 이상 및 관련 의료기관의 경영·기획·IT 실무자 등 100여 명이 참석한 가운데 진행됐다.
'AI 거버넌스의 전환'을 주제로 한 첫 번째 세션에서 양광모 성균관대학교 의과대학 교수(삼성서울병원 AI연구센터장)는 '병원 AI 대전환의 핵심 – 데이터가 흐르는 병원' 발표를 통해 현장의 구조적 단절을 진단했다. 양 교수는 "병원 AI가 성능 검증을 통과해도 실제 업무로 이어지지 못하는 간극이 크다"며 기관 간(영상 공유의 표준·범위 한계), 업무 간(분산된 채널과 수작업 분류·배정), 평가 간(지표 정의와 실적 데이터의 불일치) 단절을 핵심 문제로 꼽았다.
그는 독일 병원개혁법, 영국 NHS App 중심 10년 계획, 국내 상급종합병원 구조전환 지원사업 등 국내외 제도 변화 역시 '필요한 정보의 정의와 연결'을 공통적으로 요구하고 있다고 짚었다.
해법으로는 표준-데이터-AI 판단-업무 실행-성과평가로 이어지는 '데이터가 흐르는 운영체계'를 제시했다. 양 교수는 삼성서울병원 컨소시엄의 환자 중심 의료영상 공유(6개 기관, 총 938건 교류), 원내 온프레미스 LLM을 활용한 진료의뢰 자동 분류(전자 진료의뢰서 6624건 분석, 담당자 배정 일치율 75.4%→전문가 재판정 후 84.7%), 의뢰·회송 통합 시스템 'S-CARENet' 등 현장 사례를 소개했다.
그는 "AI의 판단 이후 누가·어디서·어떻게 처리할지를 사전에 설계하고, 사람의 최종 확인(Human-in-the-loop)을 전제로 데이터·AI·업무·평가를 하나로 연결해야 한다"며 경영·기획·IT 부서의 역할 분담을 강조했다.
안주현 바른 변호사는 '국내 AI 규제와 병원의 대응 – 규제와 법으로 읽는 AI 실행의 체크포인트' 발표에서 병원이 마주한 규제 지형을 진단했다. 안 변호사는 "병원 AI는 하나의 법이 아니라 인공지능기본법과 디지털의료제품 규제, 개인정보보호법 등 여러 법률의 규제를 동시에 받는다"며 "규제의 대상은 모델 자체가 아니라 데이터 처리와 임상적 사용행위의 결합"이라고 강조했다. 같은 진료지원 기능이라도 표시·광고와 실제 사용 맥락에 따라 의료기기 허가 등 규제 경로가 달라질 수 있다는 점도 지적했다.
대응책으로는 활용 국면별 점검 기준을 제시했다. 생성형 AI를 의무기록 작성이나 환자 안내에 활용할 때는 환자 식별정보 제거, 내부망·보안형 AI 사용, AI 사용 사실 고지 등 개인정보 체크포인트를 지켜야 하고, 가명정보·보건의료데이터의 처리·반출·결합·관리 절차도 사전에 설계해야 한다는 것이다. 안 변호사는 "병원 AI 거버넌스는 도입 전과 운영 중, 변경 시 모두 작동하는 상시 체계여야 한다"며 AI 규제뿐 아니라 의료기기·개인정보·의료법을 아우르는 종합적 법·제도 대응의 필요성을 강조했다.
'AI 전략과 솔루션'을 주제로 한 두 번째 세션에서 배기원 갈렙앤컴퍼니 이노베이션센터장은 '병원 AX 전략과 거버넌스 – A to Z' 발표에서 도입 실패의 패턴을 진단했다. 배 센터장은 "도입은 늘고 있는데 누가 승인하고 누가 책임지는지가 불명확하다"며 검증-현장 괴리, 경보 피로, 사후관리 부재에 따른 성능 저하(드리프트), 편향, 벤더 종속, 책임·거버넌스 공백, 지속가능성 단절 등 이미 나타난 '7대 실패'의 공통 원인을 '거버넌스 공백'으로 지목했다. 모든 AI를 같은 강도로 심의하면 현장이 규제를 우회해 '그림자 AI(Shadow AI)'가 늘어난다고도 했다.
해법으로는 "원내에 산재한 AI를 파악하는 인벤토리 작업이 첫걸음"이라며 위험도에 비례한 차등 심의와 전담조직·다층 거버넌스 체계를 제시했다. 그는 "잘 만든 거버넌스는 도입 속도를 늦추지 않고 오히려 앞당긴다"며 "규제 대응을 비용이 아니라 도입 속도의 문제로 보고 경영진이 판단해야 한다"고 제언했다.
이세라 에이아이네이션 팀장은 '임상 현장에서 태어난 AI – 욕창 솔루션 공동개발기'를 통해 현장의 고민을 진단했다. 이 팀장은 "욕창 관리는 병변마다 측정·촬영·단계 판단·기록을 반복하는 노동집약적 업무"라며 현장에서 수집한 데이터의 정제 난제와 '치유된 욕창'을 피부염 등 유사 병변과 구분하기 어려운 문제를 공유했다.
그는 연세 세브란스병원과 21개월간 공동 개발한 욕창 단계별 AI 검출 솔루션의 여정을 소개하며, 3만여 개(3만3011건) 병변 데이터의 라벨링과 분류체계·평가기준 정의, 촬영-추론(병변 영역 분할·단계 분류)-결과 확인의 3단계 처리 과정을 설명했다. 이 팀장은 "벤더가 파는 제품이 아니라 현장과 함께 만든 기록"이라는 점을 강조했다.
권찬영 정원엔시스 AI 전략실장은 '실시간 진단 보조 AI' 발표에서 실시간 영상 AI의 본질을 짚었다. 권 실장은 "동영상은 결국 연속된 정지영상으로, 초당 30장(30fps)이라면 검출 AI는 1초에 30번의 독립된 판단을 내린다"며 단일 프레임 검출에 의존할 경우 표시 마커가 깜빡이거나 흐린 프레임에서 오탐이 생기는 한계를 진단했다.
해법으로는 프레임 간 시간축(Temporal)에서 동일 병변이 연속 검출되는지를 추적해 신뢰도를 확보하고, 흐린 프레임은 추론을 생략(Skip)해 깜빡임 없는 부드러운 검출을 구현하는 방식을 제시하며 내시경 실시간 용종 검출(CADe)·진단 보조(CADx) 사례를 소개했다.
패널토론에서는 이준희 바른 기업전략연구소장이 좌장을 맡고 김경윤 AWS Healthcare 수석, 민규홍 서울성모병원 스마트병원 총괄 정보전략팀장, 이의규 바른 변호사, 한은진 세브란스병원 진료지원간호팀 전문간호사가 패널로 참여해 병원의 역할 변화와 데이터·거버넌스 과제가 집중적으로 다뤄졌다.
민규홍 서울성모병원 정보전략팀장(대한병원정보협회 사무총장)은 "병원은 병을 치료하는 곳에서 예방과 선제적 관리까지 아우르는 건강관리의 장으로 변해야 한다"며 "개인 의료정보를 본인에게 제공하는 동시에 적법한 절차를 거쳐 AI 연구에 활용하고 이를 다시 진료로 선순환시켜야 하며, 이를 위해 표준화·정제·품질관리를 거친 'AI-Ready 의료데이터'를 갖추는 것이 급선무"라고 강조했다. 그는 실제 AI 전환의 공통 과제로 분산된 데이터를 접근·통제 가능한 구조로 전환하는 일과 기존 데이터의 구조·의미를 보강하는 일을 꼽았다.
이의규 바른 변호사는 "AI 거버넌스의 핵심은 병원이 사용하는 AI를 파악해 위험 수준에 따라 승인·검증·모니터링 절차와 책임자를 정하는 것"이라며 "행정지원 AI와 진료에 영향을 미치는 AI를 구분하고, 의료진의 최종 판단권을 보장하며, 검증·변경·사고 대응 과정을 기록으로 남기는 컴플라이언스 체계가 필요하다"고 제언했다. 이어 "이러한 거버넌스는 규제가 아니라 안전한 AI의 신속한 도입을 위한 기반"이라고 덧붙였다.
염민섭 한국보건의료정보원 원장은 "의료 AI의 경쟁력은 알고리즘만으로 만들어지지 않으며, 양질의 데이터와 표준, 안전한 연계·활용체계가 함께 갖춰질 때 비로소 실제 의료현장의 혁신으로 이어진다"고 강조했다. 이어 정부의 AI 기본의료 전략과 공공의료 AI 고속도로, 건강정보고속도로(의료 마이데이터), 국가통합바이오빅데이터 사업 등을 소개하며 "한국보건의료정보원도 의료데이터와 AI를 통해 국민이 체감할 수 있는 의료혁신을 만들어가는 데 함께하겠다"고 밝혔다.
이동훈 바른 대표변호사는 "의료 AI의 성공적인 도입을 위해서는 AI 규제뿐 아니라 디지털의료제품 및 의료기기 관련 규제, 개인정보 보호와 의료데이터 활용, 의료법 등 다양한 법·제도에 대한 종합적 대응이 필수적"이라며 "바른은 그동안 디지털 헬스케어, 개인정보·데이터, AI 규제, 의료기관 자문 분야에서 전문성과 업무 경험을 축적해 온 만큼 병원과 의료기관이 AI 전환의 각 단계에서 직면하는 법적 쟁점을 선제적으로 점검하고 해결하는 전략적 파트너로서의 역할을 충실히 수행할 것"이라고 말했다.
©'5개국어 글로벌 경제신문' 아주경제. 무단전재·재배포 금지
![[르포] 중력 6배에 짓눌려 기절 직전…전투기 조종사 비행환경 적응훈련(영상)](https://image.ajunews.com/content/image/2024/02/29/20240229181518601151_258_161.jpg)
