您当前的位置:检测资讯 > 法规标准

欧盟对高风险人工智能医疗器械的要求---User义务

嘉峪检测网        2025-08-14 10:28

 

《欧盟人工智能法案》第 29 条对高风险人工智能系统的用户规定了一系列用户义务,这些义务在MDR和IVDR中没有类似规定,如用户有义务"systems in accordance with the instructions of use accompanying the systems"。MDRIVDR 中没有任何其他关于lay users甚至professional users的 NLF 法规或指令规定这一义务。

 

此外,《欧盟人工智能法案》第 29(3)条要求"user shall ensure that input data is relevant in view of the intended purpose of the high-risk AI system ",这对用户提出了一项对lay users毫无意义的义务,并假定了大多数用户不具备也不需要具备的专业程度。医疗机构的professional users通常也不会对输入数据施加任何影响,因为他们的职责是按照使用说明配置设备。因此,他们无法控制从病人身上测得的数据是否与系统"相关"。相反,他们所能做的就是按照 IFU 中说明的预期目的使用设备,这样输入的数据就会自动与系统相关。例如,一个经过培训、旨在解读核磁共振成像扫描结果以发现肺部癌变迹象的人工智能系统,显然不能用于解读其他器官的核磁共振成像扫描结果,因为这些其他器官的核磁共振成像扫描结果与该系统的预期目的无关。不过,这已经属于 MDR 和 IVDR 规定的不得在标签外(即未按预期用途)使用设备的义务范围。制造商需要对系统进行设计,以降低这种风险,例如,让系统提示用户所显示的 "其他器官"扫描超出了系统的预期解释范围。

 

根据 MDR 和 IVDR(以及标签),确保输入数据与医疗器械操作相关,将是风险管理和可用性设计过程的主题,以降低用户因向系统提供非相关数据而出现用户错误的风险,如上述核磁共振扫描的例子。用户向系统提供相关数据的义务是 MDR 和 IVDR 逻辑中的反向方法,它们要求设备在设计时只接受相关数据。医疗保健环境中的设备用户通常无法控制输入数据,也没有办法评估输入数据是否与设备 100% 相关,因为设备的功能是为他们理解数据。当设备根据患者健康记录中的大量数据字段提供风险评分时,这一点尤为重要。在医疗保健环境中,设备在设计时应避免接受或提醒用户输入系统的非相关或不恰当数据。例如,用于解读肺部图像的人工智能系统不小心输入了肾脏扫描数据。在这种情况下,MDR要求制造商在设计系统时,尽量对输入的数据提出质疑。

 

公告机构(事前)和主管当局(事后)都要监督上述风险管理要素在 MDR 和 IVDR 下的正确实施。作为上市后监督的一个事项,制造商必须监督所讨论的风险是否确实得到了管理,用户是否向系统提供了无关的输入。 

 

 

分享到:

来源:MDR小能手