如今，越來(lái)越多的老年人開(kāi)始用AI健康助手咨詢健康問(wèn)題、分析體檢報(bào)告、獲取用藥指南，但與此同時(shí)，他們也成為各類健康謠言的主要受害者。近期，有媒體對(duì)10款A(yù)I健康助手進(jìn)行了測(cè)試，發(fā)現(xiàn)被測(cè)試的AI基本上能對(duì)謠言進(jìn)行識(shí)別糾偏，但部分未能識(shí)別網(wǎng)傳“特效藥”的夸大宣傳風(fēng)險(xiǎn)。從內(nèi)容上看，大部分對(duì)“特效藥”的效果分析僅基于宣傳廣告，無(wú)法為用戶提供合理建議。
AI健康助手已成為民眾求醫(yī)問(wèn)藥的重要工具。對(duì)年輕人而言，它們是隨時(shí)可查的“健康百科”；對(duì)老年人來(lái)說(shuō)，它們是跨越數(shù)字鴻溝的“醫(yī)療翻譯官”。分析體檢報(bào)告、提醒用藥時(shí)間、解讀專業(yè)術(shù)語(yǔ)、推薦養(yǎng)生方法等，AI健康助手讓許多老人感受到科技帶來(lái)的健康關(guān)懷。這種低成本、易操作的健康管理方式，已被越來(lái)越多的人接受。
然而，此次測(cè)評(píng)暴露出一個(gè)關(guān)鍵風(fēng)險(xiǎn)點(diǎn)，那就是部分AI工具未能有效識(shí)別夸大宣傳的“特效藥”。有些因夸大宣傳被處罰過(guò)的所謂“特效藥”，部分通用大模型不僅未提示風(fēng)險(xiǎn)，反而將產(chǎn)品宣傳廣告作為分析依據(jù)，甚至暗示其可替代正規(guī)治療。這種“只照著廣告念”的回答方式，其實(shí)是將虛假信息經(jīng)過(guò)技術(shù)包裝后使其二次傳播。一旦AI成為醫(yī)藥廣告的“智能復(fù)讀機(jī)”，其公信力必然大打折扣。
若AI健康助手持續(xù)充當(dāng)虛假宣傳的“幫兇”，后果不堪設(shè)想。老年群體本就是健康謠言的主要受害者，他們更容易相信“一吃就靈”“徹底根治”等話術(shù)。當(dāng)AI用看似專業(yè)的語(yǔ)氣復(fù)述虛假信息時(shí)，不少老年人很難分辨這是廣告還是科學(xué)建議。尤其是，一些AI雖然在對(duì)話的末尾加上“請(qǐng)遵醫(yī)囑”等提醒，但是在前文用大量篇幅渲染產(chǎn)品功效，這種“先誤導(dǎo)再甩鍋”的操作，更容易混淆視聽(tīng)。
攔截誤導(dǎo)信息應(yīng)成為AI健康助手的基本功，為此需從技術(shù)和管理兩端發(fā)力。技術(shù)層面，建立醫(yī)療信息核驗(yàn)系統(tǒng)，強(qiáng)制要求AI在提供藥品建議時(shí)，必須交叉驗(yàn)證信息來(lái)源，對(duì)曾經(jīng)受過(guò)處罰的產(chǎn)品自動(dòng)標(biāo)注風(fēng)險(xiǎn)提示。如果出現(xiàn)多人舉報(bào)AI健康助手推送誤導(dǎo)信息現(xiàn)象，則應(yīng)暫停提供相關(guān)內(nèi)容，并迅速開(kāi)展技術(shù)升級(jí)改造。管理層面，需明確AI醫(yī)療應(yīng)用的責(zé)任邊界，要求應(yīng)用管理方完善內(nèi)容審核機(jī)制，對(duì)涉及藥品推薦的功能進(jìn)行專項(xiàng)備案，避免AI助手隨口一說(shuō)、事后不管。
當(dāng)前市面上這類AI產(chǎn)品品類豐富，既有通用大模型工具，也有專業(yè)醫(yī)療工具。這些產(chǎn)品在健康科普、慢性病管理等方面已展現(xiàn)出實(shí)用價(jià)值，其超強(qiáng)的功能讓人驚嘆。但正如合格的醫(yī)生既要會(huì)看病，更要能辨別偽科學(xué)一樣，AI健康助手的基本功里，也要包含對(duì)虛假信息的快速識(shí)別與攔截能力。唯有如此，AI不會(huì)成為健康風(fēng)險(xiǎn)的放大器，而是真正服務(wù)于健康與醫(yī)療。
