인공 지능(AI)은 질병 진단을 돕는 것에서 수술 지원으로 의료 환경을 빠르게 변화시키고 있다. 급속한 발전은 프로세스를 간소화하고 환자 결과를 개선함으로써 의료팀의 업무방식을 변화시킬 수 있는 잠재력을 가지고 있다. AI가 의료 분야에서 더 많이 사용됨에 따라 연구자들은 이 기술이 생명 윤리적 원칙에 따라 안내되고 인간의 의사결정에 의해 보호되는 도구여야 한다고 강조한다. 처음부터 윤리에 초점을 맞추는 것은 AI 기반 도구의 책임감 있는 개발과 의료팀이 환자의 복지를 위해 AI를 편안하게 사용할 수 있도록 하는 데 중요한 점이다.

메이요 클리닉의 인공 지능 생명윤리 자문위원회 회인인 바바라 베리(Barbara Barry)박사는 "AI 시스템이 의도하지 않은 부정적인 결과를 초래할 때 윤리는 있으면 좋은 분류로 간주하는 경우가 많습니다."라고 말한다. 바바라 박사는 임상 실습에서 AI를 사용하면 예후 결정, 상태 진단, 진단 오류 및 치료 감소, 차트 요약 및 주문 자동화를 통한 작업 흐름 효율성 향상, 치료 제공을 통한 환자 접근성 확대 등 여러 가지 방법으로 의사의 작업이 향상될 것이라고 강조한다.

미쉘 마고완(Michelle McGowan)박사는 "AI가 의료에 통합됨에 따라 의사와 기타 임상의가 직면할 수 있는 윤리적 문제 중 하나는 전문 권위자의 역할입니다."라고 말한다. 그는 건강 기술 정책의 급속한 증가가 윤리적, 사회적으로 미치는 영향을 연구하는 경험적 생명윤리학자이다. "기계가 데이터 분석, 진단 제안 또는 치료 반응 예측 능력을 향상함에 따라 의사의 판단이 환자 치료를 위태롭게 하고 잠재적인 책임을 초래할 수 있는 방식으로 대체되지 않도록 하는 것이 의사의 의무가 될 것입니다."라고 그녀는 의견을 덧붙였다.

또 다른 관심사는 최근 LLM(Large Language Model)의 발전이다. 이러한 강력한 AI 도구는 방대한 양의 데이터를 학습하여 모델에 인간과 유사한 언어를 분석하고 생성할 수 있는 기능을 제공한다. 의료 연구에서 LLM은 방대한 양의 의료 기록과 과학 문헌을 선별하는 데 사용한다. 이러한 방식으로 AI를 적용하면 많은 긍정적인 측면이 있지만, AI를 책임감 있게 사용하고 항상 예측을 검토하고 평가하는 것이 중요하다. 바바라 박사는 "과거에는 AI 시스템의 권장 사항이 정확했기 때문에 이를 따를 때 인간의 감독과 자동화 편견의 부담이 큰 우려 사항입니다. 그것은 우리가 더 나은 경로를 알고 있거나 상식적으로 그렇지 않은 경우에도 자동차에서 GPS 내비게이션 시스템을 따라가는 것과 같습니다."라고 말했다.

대규모 언어 모델의 효율성 평가
AI가 목적을 달성하는 데 도움이 될 수 있다는 약속을 바탕으로 Kern Center는 임상의가 검토할 수 있도록 전자 건강 기록(EHR) 데이터에서 퇴원 요약을 생성하는 LLM의 효과를 평가하기 위해 심혈관 의학과 협력하여 파일럿 연구를 진행하고 있다. 일반적으로 직원은 각 환자의 입원 및 퇴원 권장 사항을 요약하는 유익하고 정확한 문서를 생성하기 위해 상당한 시간과 노력을 기울여야 한다. 이 LLM이 의도한 대로 작동한다면 서비스 제공자의 시간을 많이 절약할 수 있다. 그러나 다른 편에서는 보고서를 널리 사용하도록 권장하기 전에 보고서가 얼마나 정확하고 완전한지 검토해야 한다는 의견이 있다. 연구자들은 AI 도구가 의료에 도입됨에 따라 의료 제공자와 환자가 지원받는 것이 중요하다고 강조한다.

AI의 윤리적 사용은 엄격해야
전통적인 평가는 필수적인 초기 단계인 예측 정확도와 같은 기술적 성능 지표에 중점을 둔다. 그러나 후속 평가에서는 유용성, 일상 업무에서 최종 사용자의 수용성, 치료 제공 및 환자 결과에 미치는 영향을 고려하여 더 깊이 조사해야 한다. 엄격한 평가 외에도 연구자들은 환자가 AI를 치료에 사용할 때 투명성을 원한다는 사실이 중요하다.

환자는 AI 도구의 성능을 알고 싶어 한다. AI 도구가 자신과 같은 환자의 데이터로 만들어졌는지, 임상 시험에서 안전성이 입증되었는지, 도구가 의료 현장뿐 아니라 공평하고 정당하게 사용되는지 알고 싶어한다. 환자 스스로에 대한 보살핌 뿐 아니라 다른 환자를 보살피는 일에도 관여한다.

메이요 클리닉 건강 관리 제공 과학 센터는 임상 영역과 협력하여 데이터를 생성하고 평가한다. 환자, 직원, 지역 사회를 위한 건강 및 의료 경험을 변화시키는 중심 솔루션이다. 이는 학습 건강 시스템으로서 지속적인 개선을 주도하여 항상 안전하고 증거 기반의 고품질 진료를 가능하게 할 것이다.

참조:
mayo clinic