A Domain-Theoretic Foundation for Imprecise Probability and
Credal Sets
不精確概率與信任集的域論基礎(chǔ)
https://arxiv.org/pdf/2604.09272
![]()
摘要
我們開發(fā)了一個域論框架,用于在具有可數(shù)基連續(xù)開集格的一般拓?fù)淇臻g上進(jìn)行不精確概率推理和推斷。我們要解決兩種不同形式的不確定性:部分或不完整的事件描述,以及由信任集(credal sets)表示的概率分布集——以及它們的組合。在這個框架內(nèi),我們構(gòu)建了條件概率理論,并推導(dǎo)了新的推斷規(guī)則,用于在這兩種互補的不精確性存在的情況下執(zhí)行貝葉斯更新。這些結(jié)果被擴(kuò)展到不精確概率事件的條件獨立性理論。我們還為條件概率、貝葉斯更新和條件獨立性制定了邏輯謂詞,并獲得了相關(guān)的可靠性和完備性結(jié)果。一個關(guān)鍵貢獻(xiàn)是構(gòu)建了從任何信任集到區(qū)間域的 Scott 連續(xù)映射,提供了容量理論和 Choquet 積分經(jīng)典結(jié)果的域論實現(xiàn)。最后,我們引入并研究了一類由具有不精確概率權(quán)重的迭代函數(shù)系統(tǒng)生成的新信任集族,拓寬了計算上可處理的不精確概率模型的范圍。由此產(chǎn)生的可計算框架統(tǒng)一了關(guān)于不確定性的邏輯、拓?fù)浜蜏y度論視角,支持在部分和集值信息下的魯棒概率推斷。
關(guān)鍵詞: 域論,條件概率,信任集,條件獨立性
1 引言
不精確概率為在信息部分、模糊或集值時的不確定性推理提供了一個魯棒框架。它通過允許分布集(信任集)和區(qū)間值概率,推廣了經(jīng)典概率,從而在安全關(guān)鍵應(yīng)用中實現(xiàn)更謹(jǐn)慎的推斷。
我們考慮第二可數(shù)局部緊致 Sobert 拓?fù)淇臻g。我們將這樣的空間稱為基本拓?fù)淇臻g。在這些空間中,開集格是一個可數(shù)基連續(xù)格 [GHK+03],代表了一個具有可數(shù)基的空間 Locale。這些基本空間包括可分局部緊致度量空間以及可數(shù)基連續(xù)域。此外,任何 Polish 空間都是其形式球連續(xù)域的最大元素空間 [EH98]。這意味著基本拓?fù)淇臻g涵蓋了概率論中使用的所有標(biāo)準(zhǔn)空間。
此外,在此類空間上的任何連續(xù)概率賦值都可以擴(kuò)展為 Borel 測度 [AMESD00, KL05]。對于 Hausdorff 空間,通過所得 Borel 測度的外正則性,這種擴(kuò)展是唯一的。
![]()
![]()
在接下來的章節(jié)中,我們在這種不精確設(shè)定下,為條件概率、貝葉斯更新和條件獨立性發(fā)展了一個域論基礎(chǔ)。一個關(guān)鍵結(jié)果是從信任集到區(qū)間概率的 Scott 連續(xù)包絡(luò)映射,它將容量論思想和 Choquet 積分提升到了域框架中 [Cho54, Gra16, ACdCT14, GL13]。我們還引入了一類由具有不精確權(quán)重的迭代函數(shù)系統(tǒng)生成的新信任集族。
雖然區(qū)間算術(shù)已被應(yīng)用于工程背景下的貝葉斯法則 [FKG+03],且魯棒貝葉斯分析考慮了先驗集 [Ber85],但據(jù)我們所知,基于單調(diào)性的精確端點公式推導(dǎo)此前尚未發(fā)表。我們證明(引理 6.1)經(jīng)典的貝葉斯更新
![]()
由于基本空間的開集格是可數(shù)基且連續(xù)的,它可以被賦予一個有效結(jié)構(gòu),使得格上的可計算開集和可計算函數(shù)可以被枚舉;見 [Plo81, Smy77]。這導(dǎo)致了不精確概率和信任集的一個可計算框架。
符號約定
我們用 D D 表示任何基本空間、豪斯多夫空間或域。當(dāng)我們具體只處理豪斯多夫基本空間時,我們用 X X 而不是 D D來表示它。
2 域論基礎(chǔ)
回顧一下,完備格 L L 上的連續(xù)概率賦值 σ 是一個 Scott 連續(xù)映射 σ : L → [ 0 , 1 ] ,具有模性
![]()
![]()
2.1 可逼近關(guān)系
遵循不精確概率的既定框架和傳統(tǒng),正如經(jīng)典開創(chuàng)性著作 [Wal91] 中廣泛描述的那樣,我們將為基本的域論構(gòu)造制定謂詞。這可以通過域論中豐富的可逼近映射、Locale 和 Stone 對偶性理論來實現(xiàn) [Sco70, Smy77, AJ95, Abr91, Vic89]。
![]()
![]()
3 基本空間的事件域
給定一個基本空間 D ,我們將其開集視為可觀測或半可判定的謂詞 [Abr91, Smy77]。由于在概率論與統(tǒng)計學(xué)中取事件的補集是一項基本工具,且開集的補集未必是開集,我們考慮用不相交開集對開集的外部進(jìn)行逼近。這引導(dǎo)我們將 D 的事件域 E ( D ) 定義為不相交開集對的偏序集,其序關(guān)系由按分量的子集包含關(guān)系給出:
![]()
![]()
4 信任集
用于指代概率分布凸集的現(xiàn)代術(shù)語“信任集”(credal set)在后續(xù)的處理中得到了標(biāo)準(zhǔn)化 [ACdCT14],盡管其基礎(chǔ)理論是由 Walley [Wal91] 在“概率測度集”(sets of probability measures)這一名稱下發(fā)展的。
![]()
![]()
如上所述,基于域論計算得出的下概率和上概率,對應(yīng)于關(guān)于由信任集 K K 誘導(dǎo)的容度(capacities)的示性函數(shù)(indicator functions)的 Choquet 積分。
![]()
![]()
5 事件的條件概率
![]()
![]()
5.1 條件概率謂詞
由于 Scott 連續(xù)映射 C 是由輸入連續(xù)賦值 σ 在輸入開集或其交集上的一對有理函數(shù)給出的,原則上可以通過對給定運算進(jìn)行復(fù)合來獲得表示 C 的可逼近映射。然而,這種方法會導(dǎo)致相當(dāng)復(fù)雜的表達(dá)式。一種更自然且直接的技術(shù)是為 C 的下部和上部制定兩個關(guān)鍵謂詞,并將它們與表示 σ 的謂詞 G 聯(lián)系起來。
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
信任集方法生成一個區(qū)間,用以捕捉跨越多個先驗分布的不確定性;而經(jīng)典方法僅得出一個單一數(shù)值,該數(shù)值取決于對先驗的任意選擇(此處為平均值)。在安全關(guān)鍵型應(yīng)用中,區(qū)間的下界提供了一種魯棒且規(guī)避風(fēng)險的估計,而經(jīng)典點估計則可能錯誤地表征真實的不確定性。進(jìn)一步的比較見表3。
6 事件的貝葉斯更新
![]()
![]()
6.1 貝葉斯推斷規(guī)則
![]()
![]()
例 6.5. 考慮一種疾病的醫(yī)學(xué)檢測。設(shè):
- H :患者患有該疾病的假設(shè)。
- E :檢測呈陽性的證據(jù)。
我們擁有不精確的信息:
- 先驗患病率:根據(jù)流行病學(xué)研究,該疾病的患病率估計在 1% 到 5% 之間,但確切值是不確定的。
- 檢測靈敏度:在患有該疾病的條件下,檢測呈陽性的概率在 85% 到 95% 之間。
- 檢測特異性:在未患該疾病的條件下,檢測呈陰性的概率在 90% 到 99% 之間。
在經(jīng)典貝葉斯分析中,通常選擇點估計:
![]()
![]()
6.2 信任集的貝葉斯更新
![]()
![]()
7 擴(kuò)展到多維情形
![]()
8 條件獨立性
![]()
![]()
![]()
![]()
![]()
8.1 強(qiáng)條件獨立性
在本節(jié)前文中,我們已看到,經(jīng)典條件獨立性意味著當(dāng)兩個獨立事件 U U 和 V V 在給定 W W的條件下時,下條件支撐(lower conditional support)會分解。在此域論設(shè)定中,我們還擁有由上條件支撐所提供的額外信息。
![]()
![]()
強(qiáng)條件獨立性中關(guān)于右端點的額外假設(shè)具有局限性,在許多應(yīng)用中不太可能成立。然而,它帶來了計算上的高效性,因為條件概率的兩個端點可以通過取對應(yīng)端點的乘積來獲得。可以將強(qiáng)條件獨立性視為在圖模型中提供的一種用于計算條件概率右端點的“樂觀”規(guī)則。
對于強(qiáng)條件獨立性,我們有兩個額外的規(guī)則來取代 (CI7) 和 (CI8):
![]()
![]()
![]()
關(guān)于各種方法的比較,見表 5。主要區(qū)別如下:
- 經(jīng)典 (Classical): 點估計 (0.56) 假設(shè)知識精確且分解完美。
- Fréchet: 保守區(qū)間 [0.42, 0.80] 保證了包含性但較寬(寬度 0.38)。
- 強(qiáng) (Strong): 更窄的區(qū)間 [0.42, 0.72](寬度 0.30)但需要強(qiáng)分解假設(shè)。
關(guān)于實際意義,我們有:
- 診斷 (Diagnosis): 如果我們需要 > 0.7 的概率來進(jìn)行診斷:
- 經(jīng)典: 否 (0.56 < 0.7)
- Fréchet: 可能 (0.42-0.80 包含 > 0.7)
- 強(qiáng): 可能 (0.42-0.72 包含 > 0.7)
- 安全性 (Safety): Fréchet 更安全(總是包含真實概率)。
- 效率 (Efficiency): 強(qiáng)獨立性更高效(區(qū)間更窄)。
最后,關(guān)于何時使用每種方法:
- Fréchet 規(guī)則: 安全關(guān)鍵型應(yīng)用、未知依賴關(guān)系、保守的風(fēng)險評估。
- 強(qiáng)獨立性: 當(dāng)負(fù)面證據(jù)的獨立性合理時,效率是首要任務(wù)。
- 經(jīng)典: 當(dāng)參數(shù)精確已知且獨立性假設(shè)得到充分驗證時。
9 具有不精確概率的迭代函數(shù)系統(tǒng)
在本節(jié)中,我們通過考慮與基本空間的事件域相對偶的域,繼續(xù)橋接經(jīng)典容度理論 [Cho54, Wal91] 與域論的概念。該對偶域采用基本空間的覆蓋閉子集對,并按逆包含關(guān)系排序。利用該對偶域,我們將一族新的信任集(credal sets)表述為帶有概率的迭代函數(shù)系統(tǒng)(IFS)的不變測度。
迭代函數(shù)系統(tǒng)(IFS)及其不變測度已在分形幾何和動力系統(tǒng)中得到廣泛研究,其應(yīng)用范圍涵蓋計算機(jī)圖形學(xué)、圖像壓縮、自然現(xiàn)象建模、信號處理、生物結(jié)構(gòu)分析以及金融時間序列 [IFS22]。我們在本節(jié)的結(jié)果為將這些經(jīng)典應(yīng)用擴(kuò)展到概率不確定或部分指定的設(shè)定提供了數(shù)學(xué)上嚴(yán)謹(jǐn)?shù)幕A(chǔ)。
![]()
![]()
![]()
9.1 帶概率的 IFS 的信任集
在本小節(jié)中,我們引入一族新的信任集,即那些由帶概率的迭代函數(shù)系統(tǒng)(IFS)的不變測度組成的信任集。IFS 理論一直是多個學(xué)科中一個活躍的研究領(lǐng)域。
![]()
![]()
![]()
9.1.1 具有不精確轉(zhuǎn)移矩陣的馬爾可夫鏈
在本節(jié)中,我們介紹并分析了具有不精確概率權(quán)重的迭代函數(shù)系統(tǒng)。類似地,據(jù)我們所知,附錄 B 針對轉(zhuǎn)移概率被指定為不精確值的有限狀態(tài)馬爾可夫鏈,提供了一種新穎的處理方法。
結(jié)論
我們?yōu)椴痪_概率與信任集建立了一個全面的域論基礎(chǔ),提供了一個統(tǒng)一的計算框架,能夠同時處理部分事件描述(在事件域 E ( D ) 中表示為不相交開集對)以及由上空間 U ( P ( X ) 中的緊致信任集所表征的分布不確定性。我們的主要貢獻(xiàn)包括:在事件域上構(gòu)造 Scott 連續(xù)的區(qū)間概率映射;基于單調(diào)性推導(dǎo)出的貝葉斯更新精確區(qū)間擴(kuò)展及其配套的可靠且完備的推斷規(guī)則;針對不精確事件的條件獨立性理論,同時包含保守型(Fréchet)與強(qiáng)分解規(guī)則;以及引入了一類由帶有不精確概率權(quán)重的迭代函數(shù)系統(tǒng)所生成的新型信任集族,并給出了相關(guān)不動點映射連續(xù)性的證明。我們?yōu)橄嚓P(guān)概念制定了邏輯謂詞,并推導(dǎo)出了相應(yīng)的可靠性與完備性結(jié)果。所有運算均能 Scott 連續(xù)地擴(kuò)展至信任集空間,從而保證有限逼近的收斂性。
本工作為信任網(wǎng)絡(luò)與不精確貝葉斯網(wǎng)絡(luò)的域論處理奠定了必要的數(shù)學(xué)基礎(chǔ)架構(gòu)。該框架保證了基于不精確參數(shù)與部分指定觀測的推斷具備計算上的嚴(yán)謹(jǐn)性,其由域論的逼近性質(zhì)以及通過可逼近映射構(gòu)建的邏輯基礎(chǔ)所支撐。未來的工作將集中于構(gòu)建顯式的域論信任網(wǎng)絡(luò),開發(fā)利用本文所提連續(xù)性與逼近結(jié)構(gòu)的精確及近似推斷算法,并將該方法拓展至不精確環(huán)境下的序列決策問題。
原文鏈接:https://arxiv.org/pdf/2604.09272
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.