tw-bank-law-sdg-qa

資料集概述

台灣金融／銀行相關法規的 SFT 問答資料，合併兩個來源：

• 法規條號綁定（law-binding）：forward、reverse、discriminative 三種格式，目標是讓模型把「條文內容」與「法規名稱＋條號」綁在一起（正向問條文、反向問出處、四選一辨識）。2026-09-27 版由 /data/datasets/Bank/pt/exam_law/pt_exam_law_plus_keylaw_expanded3.jsonl 的 274 部法規、14,653 條條文逐條切出產生（forward／reverse 涵蓋 274 部，discriminative 涵蓋 191 部）。forward／reverse 由程式直接組成，以條文原文為答案；discriminative 的干擾選項與解說由 GLM 生成，經程式驗證與 Qwen 複核。

• 銀行關鍵法規 QA（key_laws）：針對銀行業重點法規條文的問答，由 Gemini（gemini-3-flash-preview 6,487 列、gemini-2.5-flash 54 列）生成。

• 用途：SFT（單輪 user → assistant；law-binding 有 system 訊息，key_laws 沒有），非推理資料（assistant 內沒有 <think>）。

• 主檔 datasets.jsonl（all config，預設）：四個來源合併成一個檔，共 45,329 列；每列帶 subset 標明來源，並有全檔唯一的 id。之後以維護主檔為準，分檔 data/<subset>.jsonl 由主檔拆出（merge_split.py）。

• 四個分檔的資料都與來源檔逐位元組相同。

Configs

config	檔案	列數	assistant tokens	全部訊息 tokens	唯一鍵
all	datasets.jsonl	45,329	11,891,735	16,604,454	id
forward	data/forward.jsonl	13,302	2,005,872	2,606,364	art_id
reverse	data/reverse.jsonl	13,301	2,138,758	3,673,606	art_id
discriminative	data/discriminative.jsonl	12,185	3,695,149	6,104,456	(art_id, user 題幹) 組合
key_laws	data/key_laws.jsonl	6,541	4,051,956	4,220,028	unique_id

Token 計法：以 Gemma 4 tokenizer（/model/gemma-4-26B-A4B-it）對 messages 各訊息 content 原字串 encode(add_special_tokens=False) 後加總；不套 chat template、不含特殊 token。「assistant tokens」只算 assistant 訊息，「全部訊息 tokens」含 system／user／assistant。

all 的列數與 tokens 等於四個分檔的加總。四個分檔的欄位不同，all 取所有欄位的聯集（見下節）。

欄位說明

all（主檔 datasets.jsonl）

每列都帶全部欄位：id、四個 subset 欄位的聯集（messages、art_id、law_name、article_no、fmt、answer、unique_id、doc_id、law、article_refs、question、gen_model、text），以及 subset。該 subset 沒有的欄位為 null。各欄位的意義見下方各 subset 的說明；注意 answer 在 discriminative 是正解字母，在 key_laws 是完整回答。

欄位	說明
id	全檔唯一鍵，組法見下表
subset	來源：forward／reverse／discriminative／key_laws

subset	id 組法	依據
forward／reverse	<subset>:<art_id>	來源自帶 art_id，每條文一題
discriminative	discriminative:<art_id>:<題幹 sha1 前 12 碼>	來源沒有單欄唯一鍵；(art_id, 題幹) 全檔唯一
key_laws	key_laws:<unique_id>	來源自帶 unique_id

因為前幾萬列的 article_refs 都是 null，README 的 dataset_info 明確寫出 features，讓 load_dataset 不必自行推斷型別。

forward／reverse

欄位	說明
messages	[system, user, assistant]。system 固定為「你是熟悉台灣金融法規的專家…」。forward：問「某法第 N 條的內容為何」，答條文原文；reverse：給條文敘述（GLM 濃縮的 restatement 或條文前段），問出自哪部法規第幾條
art_id	條文穩定 ID（law_name + unit_type + article_no 的 sha1 前 16 碼）；每條文一題，檔內唯一
law_name	法規名稱
article_no	條號（字串，如 "75"、"7-1"）
fmt	固定為 forward／reverse

discriminative

欄位	說明
messages	[system, user, assistant]。user 為題幹＋A～D 四個選項；assistant 為解說＋依據<法規 第 N 條>：＋現行條文原文＋Final Answer: \boxed{X}
art_id	條文 ID（同一條文可出多題，單獨不唯一：12,185 列對應 6,315 個條文）
law_name／article_no	法規名稱／條號
answer	正解字母（A～D）
fmt	固定為 discriminative

來源沒有單欄的唯一鍵，但 (art_id, messages[1].content)（條文＋題幹）在全檔唯一，且沒有完全重複的列（皆已驗證）。

key_laws

欄位	說明
unique_id	唯一鍵（來源自帶）
doc_id	法規代碼（如 G0380029，109 個不同值；同一法規多題共用）
law	法規名稱
article_refs	題目依據的條文：[{article, evidence}]
question／answer	題目與回答（question == messages[0].content、answer == messages[1].content，全數成立）
messages	[user, assistant]
gen_model	生成模型
text	question + " " + answer 的純文字串接

來源與 SHA-256

config	來源檔	列數	SHA-256（來源＝輸出）
forward	/data/sdg_data/tw-bank-law-binding/final/forward.jsonl	13,302	888c8a5b842e725a7933eabeedd72194ab59b2bcaff1a1722fa58720bae6947e
reverse	/data/sdg_data/tw-bank-law-binding/final/reverse.jsonl	13,301	1aaed8268f2602bf3f6ab39241203577659ac098775706e296b68125a4f6b3da
discriminative	/data/sdg_data/tw-bank-law-binding/final/discriminative.jsonl	12,185	da6b9e2aa284066b2b9549a35293cea0d55e667c667349b777d907510957a668
key_laws	/data/datasets/Bank/sft/bank_law/key_law_datasets.jsonl（2026-09-27 取用，law 欄位與 12 列英文草稿已修正）	6,541	889f52ec8fd3fdad47fed03660121687c2c890acd147ec1413effe2cadc15d8d

主檔 datasets.jsonl：45,329 列，SHA-256 b9edeca8eee334c5245b440e701ebb7a909614c77feecba6f20808ac7fd6eba6。

上游流程說明：/data/sdg_data/tw-bank-law-binding/（README.md、DATAFLOW.md、PIPELINE.md）。

key_laws 的產生方式

專案目錄：/data/sdg_data/bank_law_qa/law_qa/。

1. 選法規（keylaw.ipynb）：從 bank_law.jsonl 篩出名稱含銀行法、管理外匯條例、外匯收支或交易申報辦法、銀行公會授信準則、洗錢防制法、金融控股公司及銀行業內部控制及稽核制度實施辦法、票據法、民法、刑法、金融科技的法規，加上 pt_others.jsonl，再補入 pt_included_laws.jsonl（ACE-1／ChatGPT 從考題篩出的法規）中尚未收錄的，共 109 部，存成 keylaw/keylaw_seed.jsonl。
2. 出題（keylaw/async_script_gemini_others-Copy1.py）：以 gemini-3-pro-preview 當「法條背誦集」產生器，只依提供的法規原文逐條出題，每題附依據條文（article_refs），輸出 keylaw/keylaw_seed_questions.jsonl。
3. 攤平（keylaw/postprocess.ipynb）：把每部法規的題目攤平成一題一列，每題給一個 uuid 當 unique_id，存成 keylaw/questions.jsonl。
4. 作答（keylaw/async_script_gemini_answer.py）：依題目作答。早期試跑 8 題在 keylaw/key_law_questions_gemini.jsonl（gemini-3-flash-preview）；正式的一批在 keylaw/key_law_questions_gemini_again.jsonl（6,533 題：gemini-3-flash-preview 6,479、gemini-2.5-flash 54）。兩批合併時，早期那 8 題的 unique_id 與正式批重複，加上 _1 後綴後兩者都保留，合計 6,541 題、109 部法規。
5. 後處理（keylaw/postprocess.ipynb）：合併兩批作答；對答案中的簡體專用字只挑出該字做 OpenCC 轉換（不整句轉）；整理成 unique_id、doc_id、law、article_refs、question、answer、messages、gen_model，輸出 final_data/key_law_datasets.jsonl。
6. 加 text（/data/datasets/Bank/sft/bank_law/data.ipynb）：複製到 /data/datasets/Bank/sft/bank_law/key_law_datasets.jsonl 後，新增 text 欄位（各訊息 content 以空白串接）。
7. 修正錯名（2026-09-27，/data/datasets/Bank/pt/exam_law/fix_mislabeled_fund_law_20260927.py）：95 列的 law 欄位從錯誤名稱「證券投資信託基金保管機構管理辦法」改為「證券投資信託基金管理辦法」；訓練文字本來就正確，未改動。修改前後對照在 /data/datasets/Bank/sft/bank_law/mislabeled_law_fix_audit_20260927.jsonl。

版本紀錄

2026-09-27（三）：key_laws 英文草稿與 law-binding PUA 壞字修正

B300 訓練端建 SFT-std 時發現、由上游（法律 binding）修正，本 repo 同步：

• key_laws 12 列：answer 開頭混入英文規劃草稿（如「thoughtful\nThe user wants to know…」）。逐列取出草稿之後的正式中文答案（3 列另去掉殘留的「? Yes.」；1 列被「*Adding Explanation...*」切成兩段者接回條文引文、只刪標記行），12 列皆由原輸出救回完整答案、未重生。answer、messages[1].content、text 同步修改。前後對照：/data/datasets/Bank/sft/bank_law/key_laws_planning_leak_fix_audit_20260927.jsonl。
• law-binding 27 列（forward 7、reverse 7、discriminative 13）：條文含 PDF 符號字型殘留的私用區（PUA）字元，根源在 exam_law/_expanded3 原文。逐碼位查證原始 PDF／全國法規資料庫後替換：期貨顧問事業設置標準 U+ED79 → 刪除（段落尾無義字元）；中華民國銀行公會會員徵信準則 U+F06A–F070 → ①～⑦（Wingdings 2）；外幣收兌處 SOP U+F0AB → ★（Wingdings）。前後對照：/data/sdg_data/tw-bank-law-binding/data/pua_sync_audit_0927.jsonl。
• 列數不變；主檔與前一版逐行比對只有這 39 列不同，id 不變；全檔 PUA 殘留 0。

2026-09-27（二）：key_laws 修正錯名、新增主檔

• data/key_laws.jsonl 換成修正後的來源：95 列的 law 欄位改為正名，其餘欄位與 6,540 列逐位元組不變。
• 新增主檔 datasets.jsonl（all config，改為預設）合併四個來源；分檔保留，由 merge_split.py --verify 驗證與主檔拆出結果逐位元組相同。

2026-09-27（一）：law-binding 三個 config 換成 round2c 版

forward／reverse／discriminative 直接以上游 final/ 的 9/27 版原樣上傳（不經 build.py）。上游變動（詳見 PIPELINE.md〈round2 併回完成〉〈round2c〉）：

• 依 _expanded3 補生成：法規 208 部 → 274 部、條文 12,382 條 → 14,653 條。
• 修正條文切分：條文結尾夾帶下一章標題、章名與條號黏在同一行造成的漏切（如「銀行業公平對待高齡客戶自律規範」第 1、3、7、10、13、14 條）。
• 排除標錯名的法規：keylaw_seed 標成「證券投資信託基金保管機構管理辦法」的文件，實為「證券投資信託基金管理辦法」舊版，相關題目已撤下。
• 判別題的「依據」段落改用現行條文；移除解說開頭的「解析：」。
• 撤下過時題目（條文已變更或刪除、7/29 重抽後沒重新出題、重複題），並在上游完成去重。
• 列數：forward 11,199 → 13,302、reverse 11,195 → 13,301、discriminative 8,422 → 12,185。

因為上游已經去重，本版的 discriminative 不再另外去重，也不再加上自組的 unique_id 欄位（2026-09-26 版有）。

2026-09-26：首次上傳

四個 config 由 build.py 建置。當時 discriminative 另外加上自組鍵 unique_id（valid:<行號>／review:<行號>），並移除 67 列完全重複的列（8,489 → 8,422）。build.py 與 audit/discriminative_removed_duplicates.jsonl 都屬於這一版，保留供追溯；它們不適用於目前的 law-binding 資料。

與 esft-0914 訓練的對應

訓練設定：/data/axolotl/examples/gemma4-pt/bank-moe/experiments/esft-0914/configs/bank-esft-finance-0914.yaml。

config	bundle（/data/axolotl_multi_wandb/pretokenized_dataset/Bank/…）	訓練倍率	與本 repo 的關係
forward／reverse／discriminative	bank-0818-law-binding-*	×2	不同：本 repo 是 9/27 版，比訓練版多出 round2 補生成的法規，並經過 9/22、9/27 兩輪修正。訓練版的判別題含「打散選項後解說字母錯位」的錯誤，不要再使用
key_laws	bank-0818-bank-key-law	×1	訓練文字相同（6,541 列）；本 repo 另修正了 95 列的 law metadata

檔案對照

檔案	說明
README.md	本說明
datasets.jsonl	主檔（all config），四個來源合併
data/forward.jsonl、data/reverse.jsonl、data/discriminative.jsonl、data/key_laws.jsonl	分檔（各 subset config），由主檔拆出
merge_split.py	主檔與分檔的互轉與驗證（--verify 檢查 id 唯一、全列欄位一致、分檔＝主檔拆出結果）
subset_fields.json	各 subset 原有的欄位清單與順序（拆分時使用）
manifest.json	各 config 的來源路徑、SHA-256、列數、鍵、token 數；update_20260927 記錄本次更新與前一版的完整紀錄
build.py	2026-09-26 版的建置與驗證腳本（不適用於 9/27 的 law-binding 三檔）
audit/discriminative_removed_duplicates.jsonl	2026-09-26 版 discriminative 去重移除的 67 列（稽核用，不是訓練資料、不在任何 config）

使用方式

from datasets import load_dataset

ds = load_dataset("minyichen/tw-bank-law-sdg-qa", split="train")            # all（預設）
disc = ds.filter(lambda r: r["subset"] == "discriminative")
key_laws = load_dataset("minyichen/tw-bank-law-sdg-qa", "key_laws", split="train")
print(ds[0]["id"], disc[0]["answer"], len(key_laws))

限制與備註

• 判別題選項沒有打散，正解分布偏 C：A 1,659／B 3,211／C 4,569／D 2,746。
• forward／reverse 的 assistant 以條文原文為答案；reverse 的提問敘述來自 GLM 濃縮的 restatement（找不到時退回條文前段）。
• 約 46 條條文去掉章名後不足 25 字，依上游規則不出 forward／reverse 題。
• 仍未涵蓋：27 部切不出條號的文件（如《金融業運用人工智慧(AI)指引》）。
• 法規條文可能已有修正，資料反映產生時所據的法規版本，不保證為現行條文。
• 上游另有 *_pt.jsonl（CPT／completion 格式），不收錄於本 repo；上游的 final.bak_* 目錄是舊版備份，不要使用。
• 著作權與授權：法規條文依法屬公共領域；GLM／Gemini 生成的題目與解說之權利歸原權利人。本資料集僅供內部研究與模型訓練使用，不得對外散布。