AI育兒指導(dǎo)出錯(cuò)這件事,豆包60ml喂奶建議只是一個(gè)縮影。背后暴露的問(wèn)題,比一個(gè)錯(cuò)誤的推薦量嚴(yán)重得多。
1. 事件本身:60ml是怎么出來(lái)的
正常的新生兒喂奶量參考是這樣的:出生頭幾天胃容量極小,每次30-60ml屬于正常范圍;隨著月齡增長(zhǎng),2-3個(gè)月的嬰兒每次喂奶量應(yīng)該達(dá)到100-150ml。如果AI系統(tǒng)給出"每頓60ml"的建議,沒(méi)有結(jié)合嬰兒的實(shí)際月齡、體重、體重增長(zhǎng)曲線,本質(zhì)上是一個(gè)脫離上下文的通用數(shù)字,在某個(gè)階段是對(duì)的,放在另一個(gè)階段就是低估了需求量。
問(wèn)題不在于豆包給出了錯(cuò)誤答案,而在于有家長(zhǎng)直接照這個(gè)數(shù)字喂了,沒(méi)有去核實(shí)。AI系統(tǒng)在這個(gè)問(wèn)題上到底給出了什么信息、有沒(méi)有加免責(zé)聲明,是第一層需要追問(wèn)的事情。
2. AI育兒建議的結(jié)構(gòu)性風(fēng)險(xiǎn)
LLM(大語(yǔ)言模型)處理醫(yī)療健康類問(wèn)題有一個(gè)內(nèi)在缺陷:它的知識(shí)來(lái)自訓(xùn)練數(shù)據(jù),但嬰幼兒護(hù)理是一個(gè)高度個(gè)體化的領(lǐng)域。體重低于標(biāo)準(zhǔn)的早產(chǎn)兒和足月正常體重兒,同一月齡的喂奶量可能相差50%以上。把一個(gè)均值性的建議給到所有家長(zhǎng),在統(tǒng)計(jì)上是合理的,在具體案例上可能是危險(xiǎn)的。
豆包屬于通用型對(duì)話AI,沒(méi)有內(nèi)置的兒科臨床知識(shí)圖譜,也沒(méi)有接入用戶的健康檔案。它能做到的是基于問(wèn)題描述給出一個(gè)文字響應(yīng),而不是基于患者數(shù)據(jù)給出醫(yī)療建議。這兩者之間的差距,家長(zhǎng)在使用時(shí)很容易忽略。
3. 父母群體對(duì)AI育兒工具的依賴度在快速上升
2025年的一項(xiàng)調(diào)查顯示,90后父母中有超過(guò)60%會(huì)定期使用AI工具獲取育兒建議,其中20%以上表示"會(huì)直接按照AI建議操作,不再單獨(dú)咨詢醫(yī)生"。這個(gè)比例在一二線城市的新手父母中更高,背后是兒科資源緊張、掛號(hào)難、咨詢成本高等現(xiàn)實(shí)壓力。
這種依賴不是父母的問(wèn)題,是系統(tǒng)性資源分配不均衡的結(jié)果。AI填補(bǔ)的是現(xiàn)實(shí)中兒科服務(wù)覆蓋不足的空白,但它填補(bǔ)的方式,目前并沒(méi)有經(jīng)過(guò)嚴(yán)格的安全性評(píng)估。
5. 行業(yè)層面需要設(shè)立的邊界
目前已有一些AI公司開始在醫(yī)療健康模塊加入"高風(fēng)險(xiǎn)內(nèi)容識(shí)別"機(jī)制,即當(dāng)用戶詢問(wèn)的問(wèn)題涉及嬰幼兒、用藥劑量、急救處理等敏感類別時(shí),系統(tǒng)會(huì)主動(dòng)標(biāo)注"請(qǐng)咨詢專業(yè)醫(yī)生"并降低自動(dòng)回答的權(quán)重。但這套機(jī)制在通用型AI中還遠(yuǎn)未成為標(biāo)配。
從產(chǎn)品設(shè)計(jì)的角度看,嬰幼兒喂養(yǎng)、用藥劑量這類問(wèn)題,理想的處理方式是:提供背景知識(shí)框架+明確指向?qū)I(yè)資源+拒絕給出具體操作數(shù)字。豆包這次的案例,恰恰是沒(méi)有嚴(yán)格執(zhí)行這個(gè)邊界。