业界“冷”思考:当“黑箱AI”遇到“医药未来”

2023-08-25 富美财经 浏览量:

中新网上海8月24日电 (记者 郑莹莹)“现在的深度学习大多是一种黑箱模式,它的可解释性或透明性还不高。因此在临床应用时,医生可能会觉得可靠性不高。”西安交通大学数学与统计学院助理教授杨燕24日在沪直言人工智能(AI)的“弱点”。

当天,2023世界人工智能大会青年科学家论坛暨“新青年·星思享——青年科技论坛”在上海科学会堂举行,青年科学家们结合各自领域冷静思考当下的人工智能发展。

业界“冷”思考:当“黑箱AI”遇到“医药未来”8月24日,2023世界人工智能大会青年科学家论坛暨“ 新青年·星思享——青年科技论坛”在上海科学会堂举行。杨浦东 摄  杨燕说,深度学习从某种程度上说降低了从业门槛,很多人可能并不掌握专业领域知识,只是“喂”数据,这会导致“仅仅把精度做得很高,但不一定可应用”等问题。

浙江大学软件学院青年科研人员彭思达认为,人工智能所带来的隐私问题是一个特别需要关注的方面,之前ChatGPT就出现过信息泄露的问题。因此,业界需要思考如何对这些掌握大模型的公司进行更规范化的约束;尤其是在医疗领域,要关注如何让病人的隐私不被泄露。

要训练模型,需要给它“投喂”数据。上海科技大学生物医学工程学院常任轨助理教授、研究员钱学骏表示,在医学影像智能诊疗领域,医学图像往往很难达到自然图像的训练(数据)数量级,“在医疗领域,即使采到(数据)也不一能存下来,存下来也不一定能共享。层层下来,真正能用的只有小样本(数据)。”

但他指出,通过传统的后处理方式获得高质量的医疗图像往往非常耗时,人工智能打开了新思路,让“鱼”(高质量图像)和“熊掌”(时间)可兼得,“有效利用预训练模型与微调策略将在生物医学领域发挥重要作用。”

同济大学教授何良华认为,人工智能对“药”的影响可能比对“医”的影响更大。

他指出,在“医”上,人工智能近年主要体现为辅助医疗,要想完全实现智慧医疗,还有一段路要走。而对制药而言,从制药材料的筛选,到药物研发中的分子结构建模,人工智能影响深远。(完)

为你推荐