為了讀懂一句台灣的病歷，我們自己養了一顆模型

八年來我們在健檢中心、企業職場和社區站做同一件事：把別人手上的檔案，變成一筆可以用的健康紀錄。那些檔案長什麼樣子？一格裡寫「定期心內門診-戒菸」，其實是兩件事：心臟科還在追蹤，加上戒菸。「成健」是成人預防保健。「檳榔」在社會史那一欄，跟菸、酒同一級。

這些不是錯字，是台灣醫療現場真正在用的寫法。它們大量出現在每天產生的紀錄裡，卻幾乎不存在於公開的訓練資料裡。所以拿現成的模型來讀，讀不出來。

要讓模型認得某一家機構自己的縮寫，直覺上就是拿那些字去微調。我們測完的結論是：這條路走不通，而且原因可以算出來。

把小模型量化到 int8，每個向量都會被擾動固定的量，我們量到的是 0.44。而要在一堆機構縮寫裡挑對，第一名和第二名的差距中位數只有 0.14。也就是說，模型是在自己的誤差裡面做選擇。把縮寫微調進權重，只會讓那個差距更小，誤差卻沒有變小——所以越調越差。我們試了 18 種組合（逐張量和逐通道的 int8、fp16、混合精度、權重內插、QAT、加了量化限制的 LoRA…），在可以部署的體積下沒有一種追得上全精度。

有用的做法是換個地方放這些知識：模型完全凍結，機構的詞彙表放在模型外面一份幾 KB 的對照表，進來的字先過一道門。夠像已知的字，就換成它的標準概念；不夠像，就原封不動走原本的路。所以加了這份對照表，原本會的題目不可能變錯。

我們把這件事記成一句話：量化之前，先量你的判斷餘裕有沒有大過量化的誤差。如果沒有，在權重上動手都救不了。這句話和所有走不通的嘗試，都寫在公開的研究紀錄裡。