[WSJ] 12/24 - AI에도 영양성분표시가 필요하다

2023.12.02 기사

Medical AI Tools Can Make Dangerous Mistakes. Can the Government Help Prevent Them?

'Nutrition Labels' in Artificial Intelligence - DALLE

 

의사들이 환자의 진단과 치료에 AI를 사용하게 되면서, 이러한 AI를 기반으로 한 의료기기 또는 앱이 실제로 해가 되지 않도록 정부에서 규제를 하려 한다.

 워싱턴에서는 AI을 기반으로한 헬스케어 앱과 의료기기에 영양성분표시와 같이 새로운 labeling system을 적용하도록 권고하는 법안을 추진하고 있다. 이는 의사 또한 AI 기반 도구를 사용할 때 위험과 단점을 고려할 수 있도록 도움을 줄 것이고, 소비자 입장에서 또한 신뢰를 구축할 수 있을 것으로 기대하고 있다.

 

  AI 기반 의료 도구들은 제한된 데이터를 기반으로 학습되는 경우가 많다. 아직까지 AI 학습에 사용되는 의료 데이터는 완전하지 않으며, 모든 유형의 환자를 고려하지 않은 학습이 진행되고 있다고 한다. 따라서 이러한 부정확한 학습은 환자에게 해를 가할 수 있기 때문에, 소비자에게 투명성을 공개하여 위험의 정도를 판단할 수 있도록해야 한다는 것이 권고안의 취지이다.

 

 그럼 AI 기기에 "영양성분표시(Nutrition label)"를 한다는 것은 무엇을 의미하는가?

우리는 음식의 영양성분표시표를 보고 해당 음식에 대한 정보를 파악할 수 있다. 열량, 나트륨, 단백질 등을 파악하여 특정 음식이 나에게 좋은지, 해로울 것인지를 파악할 수 있다. AI 알고리즘을 사용한 기기 또한 이렇게 되어야 한다는 것이다. 특정 알고리즘이 불완전하거나, 편향되어있거나, 잘못된 데이터로 학습된 경우 이는 알고리즘에 부정확성을 높일 수 있다. 따라서 해당 알고리즘이 얼마나 정확성이 높은지, 얼마나 검증되었는지 등을 사전에 알 수 있어야 한다는 것이다. 이처럼 AI에 대한 투명성이 보장되어야 소비자가 해당 기기를 사용할 때 마치 음식처럼 나에게 위험이 있는지, 해로운지 판단할 수 있게 해야 된다는 것이다.

 

 헬스케어 기업들은 이러한 성분표시안은 기업의 사적인 정보를 공개시키고, 경쟁을 위축시킬 것이라고 말한다. 성분표시를 하는 것은 기업들에게 너무 가혹한 의무라는 입장 또한 존재한다. 이는 AI healthcare 스타트업의 성장을 위축할 것으로 본다. 성분표시법이 기업의 비밀비법과 경쟁력을 모두 공개하여, 다른 기업이 복제할 위험이 생긴다는 것이다. 또한 공개되는 정보들이 단순히 의료정보뿐만 아니라 이와 관련된 모든 산업에 영향을 미칠 수 있다. 

 

 하지만 AI의 성분표시표는 AI가 무슨 데이터로 어떻게 훈련되었는지에 대한 정보를 공개해야된다는 것만 알려져 있을 뿐,  아직까지 정확히 어떻게 구성되고, 무엇을 공개할 것인지에 대한 내용은 없다. 이러한 부분에 대해서 여러 논의가 계속되고 있다. 2021년 구글의 개발자와 FDA에서 Model Fact Label 라고 성분표시표의 대한 초안을 작성한 논문을 발표하기도 했다.

Model Fact Label의 예시

또한 하버드와 MIT의 개발자 또한 The Dataset Nutrition Label Project를 진행하여, 표준화된 성분표시표를 만드는 것에 대한 논의를 계속하고 있다.( *It’s Time For ‘Nutrition Labels’ In Artificial Intelligence 참고) 최근의 한 논문에서는 다음의 11가지 주요 정보를 표시할 것을 제안하기도 했다. 이처럼 논의가 계속될 것으로 보인다.

11가지 정보(특허, 사용법, 데이터 세부사항, 제한사항, 위험, 예방조치, 정보보호, 보안 등)