ระยะการวิจัย PHASE_1

Data Lineage & Observability

เอกสารออกแบบระบบ
? Guideline

Data Lineage & Observability

One trace context connecting UI, agents, tools, data changes and outcomes

Unified trace hierarchy

OpenTelemetry + Langfuse
TRACEUser task

task_type, actor_role, student scope, orchestration mode

SPANApplication/BFF

route, validation, latency, status

SPANAgent execution

agent, skill, prompt/model version, artifacts

SPANTool & RAG retrieval

authorization, mode, filters, chunks, ranks, index version, citations, duration

SCOREEvaluation

faithfulness, safety, context, citation, human review

EVENTData outcome

record created, approved, rejected, alert, adoption

FEATUREResearch mart

quality, cost, latency, intervention and growth

Software signals

API latency • errors • DB query time • queue duration • uptime

Agent signals

Routing • model generations • tool calls • retrieval • evals • cost

Data quality signals

Missing fields • duplicates • invalid scores • expired consent • stale rules

Data lineage example

Raw Reflection RES-00481

คำตอบต้นฉบับ + instrument version + timestamp

AI summary AS-018

Generated by A06, prompt v1.4, student confirmed

Issue candidate ISS-014

Mapped by A05, evidence EV-093/094, confidence .86

Recommendation REC-014

A09 draft → A12 evaluated → supervisor approved

Outcome feature

recommendation_adopted=1, participation_growth=.64

Privacy-aware telemetry

#

Reference, not raw content

เก็บ IDs, hashes, redacted summaries และ classifications

P

Pseudonymized research

แยก identity map จาก analysis dataset

T

Retention tiers

Detailed traces ระยะสั้น, aggregated features ระยะยาว

!

No private chain-of-thought

เก็บ structured decision rationale เท่านั้น

เกณฑ์ที่ใช้ตัดสิน

ตัวเลขบนหน้านี้เป็นตัวอย่างสังเคราะห์ ยังไม่ได้ต่อกับ view จริงของฐานข้อมูล

เกณฑ์วัดที่มัธยฐาน ไม่ใช่ที่ค่าเฉลี่ย เพราะค่าเฉลี่ยถูกดึงขึ้นได้ด้วยร่องรอยที่สมบูรณ์จำนวนมาก

  • มัธยฐานความครอบคลุมไม่น้อยกว่า 95.0%
  • เหตุการณ์วิกฤตครบ 100.0%
  • สายการสืบสาวหลักฐานไม่น้อยกว่า 95.0%
  • การละเมิดความเป็นส่วนตัวต้องเป็น 0 เสมอ

ผลรายตระกูลภารกิจ

ผลรวม ไม่ผ่านเกณฑ์

ตระกูลที่ยังไม่มีข้อมูล 1 ตระกูล

ตระกูลมัธยฐานความครอบคลุมเหตุการณ์วิกฤตครบจำนวนร่องรอยผล
C197.2%100.0%184ผ่านเกณฑ์
C293.8%100.0%96ไม่ผ่านเกณฑ์
C30ยังไม่มีข้อมูล

ทำไมค่ารวมอย่างเดียวไม่พอ

ตระกูลที่มีร่องรอยมากจะกลบตระกูลที่ตก ค่ารวมจึงคำนวณจากคำตัดสินรายตระกูล ไม่ใช่จากการรวมร่องรอยทุกตระกูลเข้าด้วยกัน

ตระกูลที่ยังไม่มีร่องรอยแสดงว่ายังไม่มีข้อมูล ไม่ใช่นับว่าผ่านและไม่ใช่นับว่าไม่ผ่าน เพราะทั้งสองอย่างเป็นการรายงานผลของสิ่งที่ไม่ได้วัด